Operational AI Ethics Blog

The FATF‘s new report on digital technologies for anti-money laundering and countering the financing of terrorism (AML/CFT) underlines the many benefits of artificial intelligence (AI) AI, both for financial institutions and for supervisory authorities.

Si la collecte, le stockage et l’analyse sont les premiers traitements appliqués aux données massives qui viennent à l’esprit, ils ne sont pas les seuls. La détection des anomalies (valeurs aberrantes, valeurs rarement rencontrées, fraudes, défauts de qualité) est une fonction qui intéresse de nombreux secteurs comme l’industrie, la médecine, la finance, les assurances, les transports, les réseaux de communication et d’énergie, les bâtiments et ouvrages d’art, les chaînes de production, et bien sûr la défense et la recherche. Savoir observer et reconnaître ces données permet d’effectuer de la maintenance prédictive, de réagir le plus tôt possible, de prévenir des risques ou de préparer des équipements robustes.

Recent advances in Artificial Intelligence (AI) have provided us with very powerful predictive models, which can outperform humans in certain tasks. These models usually come with one major flaw: a lack of transparency. This means that it is not possible to understand their decision-making process. In their recent work, Nedeljko Radulovic and his advisors Albert Bifet and Fabian Suchanek from Télécom Paris introduce a new method to interpret these opaque models.

L’équipe « Operational AI Ethics » résume ici un papier de 2019 présenté par une équipe de chercheurs interdisciplinaire à Berkeley sur les biais algorithmiques. Ce papier souligne l’importance d'une approche interdisciplinaire.

Federated learning is a new concept emerged from Google Labs. The aim is to make a computer learn a pattern, a model, or to build clusters or even to predict future events from a dataset which is distributed on several devices.

En juin 2020, un algorithme de reconnaissance faciale a conduit à l’arrestation indue de Robert Williams, un Africain-Américain, pour un crime qu’il n’avait pas commis. Suite à un vol à l’étalage dans un quartier huppé de Detroit, dans le Michigan, le malfaiteur apparaissant dans une vidéo floue a en effet été incorrectement identifié comme Robert Williams, avec la photo de son permis de conduire. Après plusieurs heures, la police l’a relâché et a présenté ses excuses, mais cet épisode soulève de sérieuses questions quant à la pertinence des algorithmes de reconnaissance visuelle. La partie la plus troublante dans cette histoire est qu’il a été montré que certains algorithmes de reconnaissance faciale sont moins précis pour les visages noirs que pour les blancs. Mais pourquoi est-ce le cas et que peut-on faire contre cela ?

Dans cette interview, Xavier Vamparys, chercheur invité au sein de chaire XAI4AML et membre de l’initiative Operational AI Ethics, récemment nommé « responsable IA éthique » chez CNP Assurances, nous explique ces nouveaux usages de l’IA chez les assureurs et les enjeux qui en découlent.