Operational AI Ethics Blog

One of the challenges of natural language processing (NLP) is to get the meaning right. Subtle changes in a sentence can radically change its meaning. Computers may have difficulty detecting irony and sarcasm, distinguishing an affirmation of fact from an opinion. In their recent paper, Fabian Suchanek from Télécom Paris and his coauthor Mechket Emna Mahouachi from ENSTA provide an introduction to the fascinating field of information extraction. Professor Suchanek is directing a research program at Télécom Paris on the subject of extracting complex meaning from text.

En juin 2020, un algorithme de reconnaissance faciale a conduit à l’arrestation indue de Robert Williams, un Africain-Américain, pour un crime qu’il n’avait pas commis. Suite à un vol à l’étalage dans un quartier huppé de Detroit, dans le Michigan, le malfaiteur apparaissant dans une vidéo floue a en effet été incorrectement identifié comme Robert Williams, avec la photo de son permis de conduire. Après plusieurs heures, la police l’a relâché et a présenté ses excuses, mais cet épisode soulève de sérieuses questions quant à la pertinence des algorithmes de reconnaissance visuelle. La partie la plus troublante dans cette histoire est qu’il a été montré que les algorithmes de reconnaissance faciale sont moins précis pour les visages noirs que pour les blancs. Mais pourquoi est-ce le cas et que peut-on faire contre cela ?

Dans cette interview, Xavier Vamparys, chercheur invité au sein de chaire XAI4AML et membre de l’initiative Operational AI Ethics, récemment nommé « responsable IA éthique » chez CNP Assurances, nous explique ces nouveaux usages de l’IA chez les assureurs et les enjeux qui en découlent.