Algorithmes : contrôle des biais SVP - un rapport de l'Institut Montaigne
samedi 21 mars 2020
Calculer le chemin le plus court sur votre téléphone, constituer automatiquement une playlist avec vos chansons préférées, trouver le résultat le plus pertinent via un moteur de recherche, sélectionner des CV en adéquation avec une offre d’emploi :
les algorithmes vous assistent tout le long de la journée. Mais que se passerait-il si un algorithme de recrutement était discriminant ? Qu’il laissait systématiquement de côté les femmes ou des minorités ethniques ? Comment s’assurer que ces erreurs soient mises en lumière et corrigées ?
L’Institut Montaigne souhaite, grâce à la quarantaine d’entretiens réalisés, apporter des solutions concrètes pour limiter les dérives potentielles et redonner confiance dans les algorithmes.
Ce rapport tente de donner une perspective française à cette problématique aujourd’hui essentiellement traitée sous un prisme américain. Il poursuit l’étude de Télécom Paris et de la Fondation Abeona, Algorithmes : biais, discrimination et équité publiée en 2019.
Il a été réalisé en collaboration avec deux professeurs de Télécom Paris : David Bounie, responsable du département Sciences Économiques et Sociales, I3 ; Stéphan Clémençon, enseignant-chercheur au département Images, Données, Signal, LTCI.
Illustration Institut Montaigne