Pressroom

Des chercheurs américains s'alarment du manque de régulation autour de l'intelligence artificielle (L'Usine Digitale)

Les scientifiques de l’AI Now Institute de l’Université de New-York s’alarment du manque de réglementation autour de l’IA. Les craintes soulevées concernent surtout les technologies de reconnaissance faciale et les biais algorithmiques.

Le centre de recherche AI Now Institute de l’Université de New-York a publié jeudi 12 décembre 2019 un rapport sur les implications de l’intelligence artificielle (IA) dans la société. Cette année, les chercheurs ont mis l’accent sur les aspects négatifs de l’IA. […]

Le danger des biais algorithmiques

« L’industrie de l’IA est terriblement homogène », s’alarme le rapport. Ce manque de diversité a des conséquences sur les algorithmes qui connaissent des biais. Ils peuvent provenir de deux sources. D’abord le développeur lui-même, qui intègre dans ses algorithmes ses propres croyances et biais cognitifs. Ensuite, d’autres découlent des données qui nourrissent le système, à partir desquelles il est entraîné.

Le rapport «Algorithmes : biais, discriminations et équité» réalisé par des chercheurs de Télécom Paris et de l’Université de Nanterre, publié en mars 2019, prend l’exemple d’Amazon. En 2015, le géant de l’e-commerce a décidé d’utiliser un système automatisé pour l’aider dans le choix de ses recrutements. L’initiative a été interrompue car seuls des hommes étaient choisis. « Les données entrées étaient complètement déséquilibrées entre hommes et femmes, les hommes constituant l’écrasante majorité des cadres recrutés dans le passé. L’algorithme ne laissait de ce fait aucune chance aux nouvelles candidates pourtant qualifiées », explique le rapport.