Operational AI Ethics Blog

L’équipe de recherche de l’initiative Operational AI Ethics s’associe pour partager les dernières actualités de recherche sur la thématique de l’Intelligence Artificielle éthique.

Le blog de l’initiative Operational AI Ethics vise à mettre en lumière les activités de recherche entreprises par le programme qui ont pour but de  façonner une intelligence artificielle opérationnelle qui intègre, dès sa phase de conception, des outils éthiques au service de l’intérêt général et à partager les points de vue de ses membres afin d’informer les lecteurs sur les actualités autour de l’éthique de l’IA d’un de vue légal et technique.

algorithmes.jpg

Interpretability, Accountability and Robustness in Machine Learning

Confiance numérique, Data science & IA — 16/02/21
Nowadays, data science, machine learning, artificial intelligence based solutions being integrated in industry, economy and healthcare sectors embedded in surrounding us devices constitute a part of our lives. And since decisions they make are increasingly important for us, the question of their interpretability and of the explainability of their behavior becomes crucial. In a video, Pavlo Mozharovskyi explains the two general approaches to the explainability of the artificial intelligence.
Lire la suite…Read more…
Regards interdisciplinaires 1200×630

This thing called fairness: l’importance d’une approche interdisciplinaire

Confiance numérique, Data science & IA — 01/02/21
L’équipe « Operational AI Ethics » résume ici un papier de 2019 présenté par une équipe de chercheurs interdisciplinaire à Berkeley sur les biais algorithmiques. Ce papier souligne l’importance d'une approche interdisciplinaire.
Lire la suite…Read more…
Equité

Regards interdisciplinaires sur les biais algorithmiques dans la finance

Confiance numérique, Data science & IA — 25/01/21
L’édition du 11 janvier des « Lundis de l’IA et la Finance » de l’ACPR et de Télécom Paris s’est concentrée sur les biais algorithmiques. Deuxième conférence d’une série dédiée à l’IA dans la finance, ce webinaire s’inscrit dans les travaux de chaire Finance Digitale et Explainable AI for Anti-money Laundering (XAI4AML).
Lire la suite…Read more…
Federated Learning

Federated learning: the privacy-friendly artificial intelligence?

Confiance numérique, Data science & IA — 18/01/21
Federated learning is a new concept emerged from Google Labs. The aim is to make a computer learn a pattern, a model, or to build clusters or even to predict future events from a dataset which is distributed on several devices.
Lire la suite…Read more…
Affective computing 1200x630_1

L’affective computing : le défi de l’interprétation des émotions humaines

Confiance numérique, Data science & IA, Enseignants-chercheurs — 08/12/20
Amazon, Microsoft, Google, Apple… on ne compte plus les entreprises qui misent aujourd’hui sur les assistants virtuels pour favoriser l’engagement de leurs clients. Ces assistants ont un véritable impact économique en agissant sur la composante socio-émotionnelle des interactions humain-machine. Avec l’affective computing, le défi est de rendre ces assistants de plus en plus fins dans leur compréhension des comportements humains et, notamment, de leurs comportements sociaux et émotionnels et ainsi favoriser le sentiment de proximité avec l’utilisateur qui repose en outre sur une interaction fluide et naturelle avec la machine.
Lire la suite…Read more…
Blanchiment d’argent

L’explicabilité des algorithmes au service de la lutte contre le blanchiment d’argent

Confiance numérique, Data science & IA — 27/10/20
D’après les estimations d’Europol, 200 milliards d’euros de fonds criminels circulent chaque année en Europe[1], et seulement 1% de ces flux financiers illicites sont saisis. Les systèmes de lutte anti-blanchiment actuels ont donc une grande marge de progression, notamment pour pouvoir contrer des méthodes criminelles de plus en plus sophistiquées. L’IA s’avère d’une grande aide à l’amélioration du système de lutte anti-blanchiment mais, en parallèle, elle engendre de nouvelles formes de risques pour les individus. C’est là que l’explicabilité intervient.
Lire la suite…Read more…
Machine read

Do machines understand what they read?

Confiance numérique, Data science & IA — 22/10/20
One of the challenges of natural language processing (NLP) is to get the meaning right. Subtle changes in a sentence can radically change its meaning. Computers may have difficulty detecting irony and sarcasm, distinguishing an affirmation of fact from an opinion. In their recent paper, Fabian Suchanek from Télécom Paris and his coauthor Mechket Emna Mahouachi from ENSTA provide an introduction to the fascinating field of information extraction. Professor Suchanek is directing a research program at Télécom Paris on the subject of extracting complex meaning from text.
Lire la suite…Read more…
XAI et fondamental rights

Explainability and fundamental rights

Confiance numérique, Data science & IA, Enseignants-chercheurs — 16/10/20
When does the law require an algorithmic decision to be explained? A number of laws (GDPR, competition law, consumer protection) require companies to be transparent, fair and provide explanations for decisions they make. These obligations are usually justified because of asymmetries in market power or information. For public administrations, the obligation to provide explanations has constitutional roots.
Lire la suite…Read more…
Reconnaissance faciale

Pourquoi les algorithmes de reconnaissance faciale ne peuvent pas être parfaitement équitables

Confiance numérique, Data science & IA, Enseignants-chercheurs — 06/10/20
En juin 2020, un algorithme de reconnaissance faciale a conduit à l’arrestation indue de Robert Williams, un Africain-Américain, pour un crime qu’il n’avait pas commis. Suite à un vol à l’étalage dans un quartier huppé de Detroit, dans le Michigan, le malfaiteur apparaissant dans une vidéo floue a en effet été incorrectement identifié comme Robert Williams, avec la photo de son permis de conduire. Après plusieurs heures, la police l’a relâché et a présenté ses excuses, mais cet épisode soulève de sérieuses questions quant à la pertinence des algorithmes de reconnaissance visuelle. La partie la plus troublante dans cette histoire est qu’il a été montré que certains algorithmes de reconnaissance faciale sont moins précis pour les visages noirs que pour les blancs. Mais pourquoi est-ce le cas et que peut-on faire contre cela ?
Lire la suite…Read more…
GDPR

To simplify AI regulation, use the GDPR’s high-risk criteria

Confiance numérique, Data science & IA, Enseignants-chercheurs — 22/09/20
There are a multitude of contexts where we would expect an AI application to be regulated to protect users. The European Commission proposes a single AI regulation and a binary test for applying it: if the AI application is high-risk, then specific AI regulations apply. If not, then no specific AI regulations apply. The Commission proposes a definition of AI and two cumulative criteria for determining if an application is high risk. This two-criteria test gives the appearance of legal certainty, but it’s likely to create the opposite, for two reasons.
Lire la suite…Read more…
Visuel germany Facebook

Facebook: German Supreme Court reopens the way for data regulation under competition law

Confiance numérique, Data science & IA, Enseignants-chercheurs — 10/09/20
The "Facebook" saga in Germany has a new twist after the decision of the Federal Supreme Court of Germany on 23 June 2020. The "Bundesgerichtshof" (BGH) validated, at least temporarily, the decision of the German competition authority ordering Facebook to stop processing data from third party sources such as Instagram or third party websites. The decision of February 6, 2019 by the competition authority - the "Bundeskartellamt" - had been suspended by the Federal Court of Appeal in Düsseldorf, a suspension that the Supreme Court has just overturned.
Lire la suite…Read more…
Focus

The ACPR’s guidelines on explainability: clarifications and ambiguities

Confiance numérique, Data science & IA — 28/08/20
Machine learning can be of great help in the fight against money laundering by helping to discover complex patterns of financial crime undetectable by current anti-money laundering systems. But these new, more precise models are not the easiest to explain. Indeed, as the performance of an AI model increases, so does its opacity and inexplicability. Tools must therefore be added to help explain how the model made its decision. The latest publication of the French regulator (the ACPR) on AI governance introduces new orientations on this subject. It provides a framework for assessing the level of explicability required for an AI model and presents two examples of the use of AI in anti-money laundering processes.
Lire la suite…Read more…
Photo xavier vamparys CNP

Une IA éthique au service du secteur de l’assurance

Confiance numérique, Data science & IA — 24/07/20
Dans cette interview, Xavier Vamparys, chercheur invité au sein de chaire XAI4AML et membre de l’initiative Operational AI Ethics, récemment nommé « responsable IA éthique » chez CNP Assurances, nous explique ces nouveaux usages de l’IA chez les assureurs et les enjeux qui en découlent.
Lire la suite…Read more…
Finance haut risque

Intelligence artificielle dans le secteur financier : des usages à « haut risque » ?

Confiance numérique, Data science & IA, Enseignants-chercheurs — 20/07/20
Dans son Livre blanc intitulé « Une approche européenne axée sur l'excellence et la confiance » publié le 19 février 2020[1], la Commission Européenne donne des indications précises sur la réglementation qu’elle entend proposer pour encadrer l’usage de l’intelligence artificielle (IA). Elle s’appuie notamment sur une approche par les risques, distinguant les systèmes dits à « haut risque », auxquels s’imposeraient des règles aussi précises que contraignantes, et les autres systèmes[2]. La notion de « haut risque » est donc déterminante.
Lire la suite…Read more…
Covid-19 et limites de l’IA

Lutte contre le Covid-19 : les limites de l’intelligence artificielle

Confiance numérique, Data science & IA, Enseignants-chercheurs — 21/07/20
Pour de nombreux scientifiques, il ne fait aucun doute que l’intelligence artificielle (IA) révolutionnera un jour le monde. Dans le cadre de l’épidémie de Covid-19, elle a été utilisée à plusieurs reprises dans la prédiction de symptômes et dans la recherche de traitement. Mais face à l’inattendu, l’IA atteint rapidement ses limites.
Lire la suite…Read more…
AML fundamental rights IA

Current AML techniques violate fundamental rights and AI would make things worse

Confiance numérique, Data science & IA, Enseignants-chercheurs — 09/07/20
Artificial intelligence can help banks better report suspicious transactions to authorities. But can AI-based AML systems meet fundamental rights requirements?
Lire la suite…Read more…

Restez informés

Gardez un œil sur les dernières actualités grâce à notre lettre d’information mensuelle.




    YES