Operational AI Ethics

News

Explainability and fundamental rights

Confiance numérique, Data science & IA, Enseignants-chercheurs — 16/10/20

When does the law require an algorithmic decision to be explained? A number of laws (GDPR, competition law, consumer protection) require companies to be transparent, fair and provide explanations for decisions they make. These obligations are usually justified because of asymmetries in market power or information. For public administrations, the obligation to provide explanations has constitutional roots.

Lire la suite…Read more…

Pourquoi les algorithmes de reconnaissance faciale ne peuvent pas être parfaitement équitables

Confiance numérique, Data science & IA, Enseignants-chercheurs — 06/10/20

En juin 2020, un algorithme de reconnaissance faciale a conduit à l’arrestation indue de Robert Williams, un Africain-Américain, pour un crime qu’il n’avait pas commis. Suite à un vol à l’étalage dans un quartier huppé de Detroit, dans le Michigan, le malfaiteur apparaissant dans une vidéo floue a en effet été incorrectement identifié comme Robert Williams, avec la photo de son permis de conduire. Après plusieurs heures, la police l’a relâché et a présenté ses excuses, mais cet épisode soulève de sérieuses questions quant à la pertinence des algorithmes de reconnaissance visuelle. La partie la plus troublante dans cette histoire est qu’il a été montré que les algorithmes de reconnaissance faciale sont moins précis pour les visages noirs que pour les blancs. Mais pourquoi est-ce le cas et que peut-on faire contre cela ?

Lire la suite…Read more…

To simplify AI regulation, use the GDPR’s high-risk criteria

Confiance numérique, Data science & IA, Enseignants-chercheurs — 22/09/20

There are a multitude of contexts where we would expect an AI application to be regulated to protect users. The European Commission proposes a single AI regulation and a binary test for applying it: if the AI application is high-risk, then specific AI regulations apply. If not, then no specific AI regulations apply. The Commission proposes a definition of AI and two cumulative criteria for determining if an application is high risk. This two-criteria test gives the appearance of legal certainty, but it’s likely to create the opposite, for two reasons.

Lire la suite…Read more…

Facebook: German Supreme Court reopens the way for data regulation under competition law

Confiance numérique, Data science & IA, Enseignants-chercheurs — 10/09/20

The "Facebook" saga in Germany has a new twist after the decision of the Federal Supreme Court of Germany on 23 June 2020. The "Bundesgerichtshof" (BGH) validated, at least temporarily, the decision of the German competition authority ordering Facebook to stop processing data from third party sources such as Instagram or third party websites. The decision of February 6, 2019 by the competition authority - the "Bundeskartellamt" - had been suspended by the Federal Court of Appeal in Düsseldorf, a suspension that the Supreme Court has just overturned.

Lire la suite…Read more…

The ACPR’s guidelines on explainability: clarifications and ambiguities

Confiance numérique, Data science & IA — 28/08/20

Machine learning can be of great help in the fight against money laundering by helping to discover complex patterns of financial crime undetectable by current anti-money laundering systems. But these new, more precise models are not the easiest to explain. Indeed, as the performance of an AI model increases, so does its opacity and inexplicability. Tools must therefore be added to help explain how the model made its decision. The latest publication of the French regulator (the ACPR) on AI governance introduces new orientations on this subject. It provides a framework for assessing the level of explicability required for an AI model and presents two examples of the use of AI in anti-money laundering processes.

Lire la suite…Read more…

Le programme Operational AI Ethics nous permet de traiter le sujet des biais et de l’explicabilité des algorithmes dans toute sa diversité, en réunissant des expertises complémentaires, bien au-delà de nos disciplines respectives.

Stephan Clémençon, professeur en mathématiques appliquées et apprentissage statistique à Télécom Paris

Découvrir le blog

Une équipe interdisciplinaire

Notre équipe interdisciplinaire fédère six branches académiques (mathématiques appliquées, statistiques, informatique, économie, droit et sociologie) autour des problèmes de l’intelligence artificielle éthique.

Ce que disent nos chercheurs

Pour qu’il soit fiable, un système de décision doit satisfaire à des critères d’explicabilité en plus des critères de performance. Nous cherchons à intégrer ces critères au moment de l’apprentissage de ces systèmes.

Florence d'Alché-Buc, professeure en traitement et fouille de données massives à Télécom Paris et titulaire de la chaire Data Science and Artificial Intelligence for Digitalized Industry and Services

Des approches hybrides permettent de combiner IA symbolique (reposant sur la représentation des connaissances) et apprentissage des machines (surtout à partir des données) conduisant à une meilleure explicabilité des décisions algorithmiques.

Isabelle Bloch, professeure en mathématiques appliquées et intelligence artificielle, en particulier pour le raisonnement spatial, à Télécom Paris (laboratoire LTCI)

La commission européenne et les régulateurs souhaitent tous des algorithmes explicables mais le diable est dans les détails. En effet, il faut avant tout répondre aux questions : pour qui et pourquoi ?

Winston Maxwell, directeur d'études, doit et numérique à Télécom Paris

Si, l’explicabilité des algorithmes n’est pas forcément nécessaire pour un algorithme qui joue aux échecs, elle devient indispensable lorsqu’il s’agit d’un système critique.

David Bounie, responsable du département SES de Télécom Paris

Nos doctorants

Cinq axes de recherche

Chaires d’enseignement et de recherche

Offres de formation

Les Mastères Spécialisés

Les Certificats d’Études Spécialisés

Télécom Évolution propose un CES Data Scientist et un CES Intelligence Artificielle, tous deux délivrés par Télécom Paris, avec la participation de l’ENSTA ParisTech pour le second. En collaboration avec l’École Polytechnique d’Assurance, elle propose l’Executive MBA Data Scientist des Métiers de l’Assurance.

Formation courte

Télécom Evolution propose également la formation courte Les enjeux éthiques de l’intelligence artificielle. D’une durée de 2 jours, elle propose un panorama sur les principaux enjeux éthiques, juridique et sociétaux autour de l’IA.

En savoir + sur Télécom Évolution