Les Lundis de l’IA et de la finance organisés par Télécom Paris et l’ACPR reprennent donc pour un nouveau cycle de webinaires croisant les points de vue des régulateurs, des chercheurs et des industriels sur les usages et la réglementation de l’IA en finance.
#7 – ChatGPT, Large Language Models : Les modèles de fondation – lundi 5 juin 2023
Nous parlerons des aspects sociétaux et techniques liés à la régulation des modèles de fondation comme ChatGPT.
- 17h00 (heure de Paris) : Introduction par Winston Maxwell, Directeur d’Études Droit et Numérique, Télécom Paris, Institut Polytechnique de Paris
- 17h05 : Jules Pondard, Expert IA au Pôle Fintech Innovation, ACPR
- 17h25 : Karine Perset, Directrice de l’unité IA et de OECD.AI, OCDE
- 17h45 : Félicien Vallet, Adjoint au chef du Service de l’Expertise Technologique, CNIL
- 18h05 : Léo Laugier, post-doctorant, École Polytechnique Fédérale de Lausanne (EPFL)
- 18h25 : Conclusion par Olivier Fliche, Directeur du pôle Fintech Innovation, ACPR
#6 – Vers une IA auditable
Le 15 mai 2023, nous nous sommes penchés sur les processus de contrôle et de certification des systèmes d’IA dans le secteur financier au regard notamment des obligations de l’IA Act.
- Introduction par David Bounie, Directeur du département SES, Télécom Paris, IP Paris
- L’IA Act : application dans le secteur financier
Julien Uri, pôle Fintech Innovation à l’ACPR/Banque de France - Certification des processus de développement des solutions d’IA
Agnès Delaborde, PhD, Responsable du département Évaluation de l’IA et cybersécurité au Laboratoire national de métrologie et d’essais - Contrôle des risques des systèmes d’Intelligence Artificielle
Thomas Bonnier, Model Risk Manager à la Société Générale - Table ronde modérée par Olivier Fliche, Directeur du pôle Fintech Innovation à l’ACPR, avec Julien Uri, Agnès Delaborde, Thomas Bonnier et Mélanie Gornet, doctorante à Télécom Paris.
Visionner le replay
#5 – L’humain (où) dans la boucle ?
Le premier webinaire de l’année 2023 (6 mars) a porté sur la place de l’humain dans la supervision de l’IA. “Human in the loop”, “Human on the loop” sont des termes désignant le niveau d’implication de l’humain dans les systèmes de décision basés sur l’IA. Y-a-t-il cependant une place réaliste à accorder à l’humain pour rester « aux commandes » ? Nous avons questionné le concept d’humain dans la boucle en nous demandant où – dans le processus de conception, de décision et de gouvernance des systèmes d’IA – l’humain peut avoir une chance de garder le contrôle.
Visionner le replay
#4 – Réglementation de l’IA dans le secteur financier
Lors de ce quatrième Lundi de l’IA et de la Finance organisé par l’ACPR et Télécom Paris, nous portons un regard international sur la régulation de l’intelligence artificielle dans le secteur de la finance.
La première heure du webinaire est consacrée à la présentation par nos experts des différents aspects de la réglementation de l’IA. La seconde partie de la conférence prend la forme d’une table ronde animée par Olivier Fliche, Directeur du Hub Fintech-Innovation à l’ACPR et Winston Maxwell, Directeur du droit et des études numériques à Télécom Paris.
Introduction: David Bounie (Télécom Paris) et Olivier Fliche (ACPR)
Speakers’ presentations:
- The European approach to AI in finance
Jan Ceyssens, Head of the Digital Finance Unit at the European Commission
Download the presentation | Watch the video - A Methodology for Responsible Use of AI by MAS (Monetary Authority of Singapore)
Li Xuchun, Head of the AI Development Office at the Monetary Authority of Singapore (MAS)
Download the presentation | Watch the video - Aligning product regulation and corporate governance
John Armour, Professor of Law and Finance at the University of Oxford
Download the presentation | Watch the video - Regulating AI in Finance: Balancing Risks and Opportunities
Douglas Arner, Professor in Law at the University of Hong Kong
Download the presentation | Watch the video
Roundtable discussion
- Olivier Fliche, Director of the Fintech-Innovation Unit at the ACPR
Winston Maxwell, Director of Law and Digital Studies at Télécom Paris
Watch the video
Conclusion
Visionner le Replay
#3 – Le partage de données pour l’IA en finance
Dans ce troisième lundi de l’IA avec l’ACPR, nous discutons du partage de données pour l’IA en finance.
La première partie de la conférence se concentre sur l’intérêt public à partager des données. Nous passons en revue plusieurs points de vue différents en examinant l’enjeu de la mise en commun de données pour la lutte anti-blanchiment d’argent, les problématiques de protection des données sensibles et les principes économiques du partage de données.
La deuxième séquence se penche sur l’état de l’art des techniques de traitement collaboratif de données sensibles. Des experts du domaine nous présentent les principes de chiffrement fonctionnel et de confidentialité différentielle (Differential Privacy), les calculs collaboratifs sécurisés (Secure Multi-Party Computation) et l’apprentissage fédéré, ainsi que leurs applications.
Introduction : David Bounie (Télécom Paris) et Olivier Fliche (ACPR)
Table ronde 1 : L’intérêt public à partager les données
Animée par Olivier Fliche (ACPR)
- FATF’s stocktake on data pooling, analysis and data protection
Kristen Alma (FATF)
Télécharger la présentation | Voir la vidéo - Partage des données, le point de vue de la CNIL
Bertrand Pailhès (CNIL)
Télécharger la présentation | Voir la vidéo - Principes économiques du partage des données
Antoine Dubus (Université Libre de Bruxelles)
Voir la vidéo
Table ronde 2 : Techniques de traitement collaboratif de données sensibles
Animée par Laurent Dupont (ACPR)
- Privacy vs. Utility, Differential Privacy and the Hybrid Model
Catuscia Palamidessi (Inria)
Télécharger la présentation | Voir la vidéo - Calculs collaboratifs sur données sensibles – sécurisés par cryptographie
Sandrine Murcia (Cosmian)
Télécharger la présentation | Voir la vidéo - Et si au lieu de partager les données, on partageait le savoir
Maxime Agostini (Sarus)
Télécharger la présentation | Voir la vidéo
Visionner le Replay
#2 – L’équité dans les algorithmes
Dans ce deuxième lundi de l’IA avec l’ACPR, nous discutons des biais algorithmiques, des discriminations qu’ils engendrent et de leur impact dans le secteur de la finance. Nous évoquons notamment les difficultés à la fois techniques et pratiques pour traiter ces biais dont l’origine se trouve bien souvent dans les données reflétant les problèmes d’équité présents dans la société.
La conférence se déroule en deux tables rondes chacune suivie d’une discussion ouverte. La première table ronde analyse les biais d’un point de vue académique en statistiques et en droit avec les professeurs Jean-David Fermanian, Stephan Clémençon et Célia Zolynski. La deuxième table ronde se penche sur la façon de gérer ces biais dans les différents métiers du secteur financier avec Florence Picard, membre de l’Institut des actuaires, My Chi TO, du NYDFS et Vivien Tran-Thien, directeur de AI Consulting chez Dataiku.
Introduction : David Bounie (Télécom Paris) et Olivier Fliche (ACPR)
Table ronde 1 : Biais algorithmiques, équité et discrimination
Animée par David Bounie(Télécom Paris
- Biais d’équité et méthodes de correction
Jean-David Fermanian, Professeur en Finance et Statistique à l’ENSAE, Institut Polytechnique de Paris
Télécharger la présentation | Regarder la vidéo - Correction des biais : entre défis et impossibilités
Stephan Clémençon, Professeur en mathématiques appliquées à Télécom Paris, Institut Polytechnique de Paris
Télécharger la présentation | Regarder la vidéo - Biais et discriminations : quelles différences, quels remèdes ?
Célia Zolynski, Professeure des universités, École de droit, Université Paris I Panthéon Sorbonne
Regarder la vidéo
Table ronde 2 : Le secteur financier face aux biais algorithmiques
Animée par Laurent Dupont (ACPR)
- L’approche de l’institut des actuaires
Florence Picard, membre du haut conseil de l’Institut des actuaires
Regarder la vidéo - L’approche d’une entreprise du numérique
Vivien Tran-Thien, directeur AI Consulting, Dataiku
Regarder la vidéo - L’approche du Défenseur des droits
Gaëtan Goldberg, chargé de mission Numérique, Droits et Libertés au Défenseur des droits
Regarder la vidéo - L’approche du régulateur de l’État de New York
My Chi To, Executive Deputy Superintendent for Insurance, New York State Department of Financial Services (NYDFS)
Regarder la vidéo
Visionner le Replay
#1 – L’explicabilité de l’IA en finance
Alors que les cas d’usages de l’IA dans la finance se multiplient, les algorithmes « boîtes noires » posent question pour leur manque de transparence et leur faible interprétabilité. Dans cette première conférence virtuelle de la série des « Lundis de l’IA et de la Finance » avec l’ACPR , nous discutons de la notion d’explicabilité qui apparaît de plus en plus cruciale pour garantir l’acceptabilité des algorithmes dans le secteur financier, en examinant notamment l’approche à quatre niveaux proposée par l’ACPR dans son document de réflexion sur la gouvernance des algorithmes.
La conférence se déroule en deux tables rondes autour de l’explicabilité de l’IA dans la finance, chacune suivie d’une discussion ouverte. La première table ronde analyse les enjeux académiques de l’explicabilité ainsi que les enjeux de régulation. La deuxième table ronde se penche sur les attentes du marché concernant l’explicabilité.
Introduction : David Bounie, Télécom Paris, Institut Polytechnique de Paris et Olivier Fliche, Directeur du pôle fintech-innovation à l’ACPR.
Table ronde : l’explicabilité, de la théorie à la régulation
- Le concept d’explicabilité en informatique et science des données
Florence d’Alché-Buc, Professeure à Télécom Paris, Institut Polytechnique de Paris
Télécharger la présentation
- Le concept d’explicabilité pour la société
Winston Maxwell, Directeur d’étude en droit numérique, Télécom Paris, Institut Polytechnique de Paris
Télécharger la présentation - Le concept d’explicabilité du point de vue du régulateur – L’approche “4 niveaux” de l’ACPR
Laurent Dupont, Data Scientist senior au pôle fintech-innovation à l’ACPR
Télécharger la présentation - Discussion et questions / réponses
Animation par Astrid Bertrand, doctorante de la chaire XAI for Anti-Money Laundering de Télécom Paris
Table ronde : Comment appréhender l’explicabilité pour les acteurs du marché ?
- Défis pour le marché
Jean Barrère, Associé Data Intelligence chez PwC France et Maghreb
Télécharger la présentation
- L’explicabilité des algorithmes dans l’assurance
Antoine Lissowski, Directeur Général de CNP Assurances - Discussion et questions / réponses
Animation par Olivier Fliche
Conclusion : David Bounie et Olivier Fliche
Visionner le Replay
