Les Lundis de l’IA et de la finance organisés par Télécom Paris et l’ACPR reprennent donc pour un nouveau cycle de webinaires croisant les points de vue des régulateurs, des chercheurs et des industriels sur les usages et la réglementation de l’IA en finance.
#12 – Mesurer et corriger les biais dans les systèmes d’IA (7 avril)
Avec des intervenants d’AI-vidence, l’Inria, lUQAM Montréal et Télécom Paris.
- Introduction, Olivier Fliche (ACPR/Banque de France) et Winston Maxwell (Télécom Paris)
- Arthur Charpentier (UQAM Montréal) : Fairness for Insurers and Actuaries, présentation de travaux sur l’équité dans le domaine de l’assurance
- Benoît Rottembourg et Jean-Michel Loubes (Inria) : Méthodes d’identification des biais sur un cas concret (impayés en téléphonie)
- David Cortés (AI-vidence) : Dérive des données, segmentation explicable
- Stephan Clémençon (Télécom Paris) : Biais de sélection en ML et logiciel ARTIST
#11 – Régulation sectorielle et règlement européen sur l’IA : quelle coexistence ?
Le webinaire du 18 novembre 2024 a examiné l’IA Act et sa coexistence avec d’une part, la réglementation sur la protection de la vie privée (notamment le RGPD), et d’autre part, la régulation sectorielle des banques et assurances. Quelles zones d’inteférences, quelles redondances, quelles complémentarités ?
Nos intervenants :
-
- Introduction : Olivier Fliche, ACPR-Banque de France
- Sergi Gálvez Duran, OCDE, sur la coexistence de la régulation de l’IA et régulation « privacy »
- François Zannotti, Alan, sur l’AI Act et la régulation sectorielle (assurances et santé)
- Dialogue entre Julien Uri (ACPR-Banque de France) et Françoise Guebs (Banque nationale de Belgique) sur l’AI Act et la régulation prudentielle en banque et assurances
- Remarques de clôture de David Bounie, professeur d’économie, Télécom Paris
Visionner le replay
#10 – IA et cybersécurité dans la banque/assurance
Le webinaire du 2 septembre 2024 a exploré le thème de l’intelligence artificielle et de la cybersécurité dans la banque/assurance. Nos intervenants :
- David Bounie, Professeur à Télécom Paris
- Sébastien Canard, Professeur à Télécom Paris : IA & Cybersécurité : Divorce, mariage ou cohabitation ?
- François Delzant, Directeur Cybersécurité et Risques IT au Groupe Crédit Agricole
- Olivier Fliche, Directeur du pôle Fintech-Innovation à l’ACPR/Banque de France
- Thiébaut Meyer, Directeur cybersécurité, Google Cloud : Hacking Google
- Fabrice Thorinius, Directeur de la cyber et des risques numériques, Covéa : Enjeux de l’IA dans le monde de l’assurance
Visionner le replay
#9 – IA, LCB-FT et fraude
Le webinaire du 29 avril 2024 a exploré le thème de l’intelligence artificielle, la lutte contre le blanchiment des capitaux et le financement du terrorisme (LCB-FT) et la fraude. Nos intervenants :
- Léa Deleris, Head of Artificial Intelligence, Robots and Tech (AIR Tech), RISK x Compliance, BNP Paribas
- Olivier Fliche, Directeur du pôle Fintech-Innovation à l’ACPR/Banque de France
- Matthias Laporte, Inspecteur, chef de mission, ACPR/Banque de France
- Winston Maxwell, Professeur à Télécom Paris
- Pavlo Mozharovskyi, Professeur à Télécom Paris
Visionner le replay
#8 – IA et souveraineté numérique
Nos intervenants :
- David Bounie, professeur d’économie à Télécom Paris,
- André Loesekrug-Pietri, président de la Joint European Disruptive Initiative (JEDI),
- Jean-Paul Mazoyer, président du Conseil du Groupement des Cartes Bancaires (CB),
- Marc Révol, directeur de projets IA, Direction Générale des Entreprises (DGE),
- Bruno Sportisse, PDG d’INRIA.
nous ont expliqué le 25 septembre 2023 en quoi consiste ce défi de la souveraineté numérique et ont apporté leurs perspectives sur ce sujet riche et transverse. Une partie de ces discussions s’est tenue sous la forme d’une table ronde modérée par Olivier Fliche, directeur du pôle Fintech-Innovation de l’ACPR/Banque de France.
Visionner le replay
#7 – ChatGPT, Large Language Models : Les modèles de fondation
Le 5 juin 2023, nous nous sommes penchés sur les aspects sociétaux et techniques liés à la régulation des modèles de fondation comme ChatGPT. Quatre experts ont apporté leurs éclairages sur le fonctionnement technique des modèles de fondation, sur les réponses réglementaires politiques émergeant à travers le monde, sur l’enjeu de protection des données et sur l’utilité des LLMs (Large Language Models) pour améliorer nos interactions en ligne.
- Jules Pondard, Expert IA au Pôle Fintech Innovation, ACPR, Introduction à ChatGPT et ses enjeux
- Karine Perset, Directrice de l’unité IA et de OECD.AI, OCDE, Generative AI and language models: opportunities, challenges and policy implications
- Félicien Vallet, Chef du Service de l’Expertise Technologique, CNIL, IA génératives : Quels enjeux pour la régulation des données personnelles ?
- Léo Laugier, post-doctorant, EPF Lausanne, Les modèles de fondation : des solutions pour améliorer nos interactions en ligne ?
Visionner le replay
#6 – Vers une IA auditable
Le deuxième lundi de l’IA de 2023 s’est penché sur la question de l’auditabilité de l’IA. David Bounie, professeur d’économie à Télécom Paris a ouvert le webinaire en posant les interrogations émergentes sur l’audit de l’IA : Quels sont les acteurs de l’audit et de la certification de l’IA en France et en Europe ? Comment les exigences de certification de l’IA Act seront-elles transposées au secteur financier ? Comment les banques se préparent à la certification et aux audits de leurs modèles d’IA ?
Nous avons ensuite écouté les présentations de trois experts : Julien Uri, Expert Fintech-Innovation à l’ACPR/Banque de France, Agnès Delaborde, Responsable du département Évaluation de l’A et cybersécurité au LNE (Laboratoire National de Métrologie et d’essais) et Thomas Bonnier, Model Risk Manager à la Société Générale.
La dernière demi-heure du webinaire a pris la forme d’une table ronde animée par Olivier Fliche, directeur du pôle Fintech Innovation à l’ACPR et dans laquelle nous avons accueilli Mélanie Gornet, doctorante à Télécom Paris sur la régulation de l’IA, en plus de nos trois présentateurs.
- Présentation de Julien Uri, ACPR : L’IA Act, application dans le secteur financier
- Présentation d’Agnès Delaborde, LNE : Certification des processus de développement des solutions d’lA
- Présentation de Thomas Bonnier, Société Générale : Contrôle des risques des systèmes d’Intelligence Artificielle
Visionner le replay
#5 – L’humain (où) dans la boucle ?
Le premier webinaire de l’année 2023 (6 mars) a porté sur la place de l’humain dans la supervision de l’IA. « Human in the loop », « Human on the loop » sont des termes désignant le niveau d’implication de l’humain dans les systèmes de décision basés sur l’IA. Y-a-t-il cependant une place réaliste à accorder à l’humain pour rester « aux commandes » ? Nous avons questionné le concept d’humain dans la boucle en nous demandant où – dans le processus de conception, de décision et de gouvernance des systèmes d’IA – l’humain peut avoir une chance de garder le contrôle.
Visionner le replay
#4 – Réglementation de l’IA dans le secteur financier
Lors de ce quatrième Lundi de l’IA et de la Finance organisé par l’ACPR et Télécom Paris, nous portons un regard international sur la régulation de l’intelligence artificielle dans le secteur de la finance.
La première heure du webinaire est consacrée à la présentation par nos experts des différents aspects de la réglementation de l’IA. La seconde partie de la conférence prend la forme d’une table ronde animée par Olivier Fliche, Directeur du Hub Fintech-Innovation à l’ACPR et Winston Maxwell, Directeur du droit et des études numériques à Télécom Paris.
Introduction: David Bounie (Télécom Paris) et Olivier Fliche (ACPR)
Speakers’ presentations:
- The European approach to AI in finance
Jan Ceyssens, Head of the Digital Finance Unit at the European Commission
Download the presentation | Watch the video - A Methodology for Responsible Use of AI by MAS (Monetary Authority of Singapore)
Li Xuchun, Head of the AI Development Office at the Monetary Authority of Singapore (MAS)
Download the presentation | Watch the video - Aligning product regulation and corporate governance
John Armour, Professor of Law and Finance at the University of Oxford
Download the presentation | Watch the video - Regulating AI in Finance: Balancing Risks and Opportunities
Douglas Arner, Professor in Law at the University of Hong Kong
Download the presentation | Watch the video
Roundtable discussion
- Olivier Fliche, Director of the Fintech-Innovation Unit at the ACPR
Winston Maxwell, Director of Law and Digital Studies at Télécom Paris
Watch the video
Conclusion
Visionner le Replay
#3 – Le partage de données pour l’IA en finance
Dans ce troisième lundi de l’IA avec l’ACPR, nous discutons du partage de données pour l’IA en finance.
La première partie de la conférence se concentre sur l’intérêt public à partager des données. Nous passons en revue plusieurs points de vue différents en examinant l’enjeu de la mise en commun de données pour la lutte anti-blanchiment d’argent, les problématiques de protection des données sensibles et les principes économiques du partage de données.
La deuxième séquence se penche sur l’état de l’art des techniques de traitement collaboratif de données sensibles. Des experts du domaine nous présentent les principes de chiffrement fonctionnel et de confidentialité différentielle (Differential Privacy), les calculs collaboratifs sécurisés (Secure Multi-Party Computation) et l’apprentissage fédéré, ainsi que leurs applications.
Introduction : David Bounie (Télécom Paris) et Olivier Fliche (ACPR)
Table ronde 1 : L’intérêt public à partager les données
Animée par Olivier Fliche (ACPR)
- FATF’s stocktake on data pooling, analysis and data protection
Kristen Alma (FATF)
Télécharger la présentation | Voir la vidéo - Partage des données, le point de vue de la CNIL
Bertrand Pailhès (CNIL)
Télécharger la présentation | Voir la vidéo - Principes économiques du partage des données
Antoine Dubus (Université Libre de Bruxelles)
Voir la vidéo
Table ronde 2 : Techniques de traitement collaboratif de données sensibles
Animée par Laurent Dupont (ACPR)
- Privacy vs. Utility, Differential Privacy and the Hybrid Model
Catuscia Palamidessi (Inria)
Télécharger la présentation | Voir la vidéo - Calculs collaboratifs sur données sensibles – sécurisés par cryptographie
Sandrine Murcia (Cosmian)
Télécharger la présentation | Voir la vidéo - Et si au lieu de partager les données, on partageait le savoir
Maxime Agostini (Sarus)
Télécharger la présentation | Voir la vidéo
Visionner le Replay
#2 – L’équité dans les algorithmes
Dans ce deuxième lundi de l’IA avec l’ACPR, nous discutons des biais algorithmiques, des discriminations qu’ils engendrent et de leur impact dans le secteur de la finance. Nous évoquons notamment les difficultés à la fois techniques et pratiques pour traiter ces biais dont l’origine se trouve bien souvent dans les données reflétant les problèmes d’équité présents dans la société.
La conférence se déroule en deux tables rondes chacune suivie d’une discussion ouverte. La première table ronde analyse les biais d’un point de vue académique en statistiques et en droit avec les professeurs Jean-David Fermanian, Stephan Clémençon et Célia Zolynski. La deuxième table ronde se penche sur la façon de gérer ces biais dans les différents métiers du secteur financier avec Florence Picard, membre de l’Institut des actuaires, My Chi TO, du NYDFS et Vivien Tran-Thien, directeur de AI Consulting chez Dataiku.
Introduction : David Bounie (Télécom Paris) et Olivier Fliche (ACPR)
Table ronde 1 : Biais algorithmiques, équité et discrimination
Animée par David Bounie(Télécom Paris
- Biais d’équité et méthodes de correction
Jean-David Fermanian, Professeur en Finance et Statistique à l’ENSAE, Institut Polytechnique de Paris
Télécharger la présentation | Regarder la vidéo - Correction des biais : entre défis et impossibilités
Stephan Clémençon, Professeur en mathématiques appliquées à Télécom Paris, Institut Polytechnique de Paris
Télécharger la présentation | Regarder la vidéo - Biais et discriminations : quelles différences, quels remèdes ?
Célia Zolynski, Professeure des universités, École de droit, Université Paris I Panthéon Sorbonne
Regarder la vidéo
Table ronde 2 : Le secteur financier face aux biais algorithmiques
Animée par Laurent Dupont (ACPR)
- L’approche de l’institut des actuaires
Florence Picard, membre du haut conseil de l’Institut des actuaires
Regarder la vidéo - L’approche d’une entreprise du numérique
Vivien Tran-Thien, directeur AI Consulting, Dataiku
Regarder la vidéo - L’approche du Défenseur des droits
Gaëtan Goldberg, chargé de mission Numérique, Droits et Libertés au Défenseur des droits
Regarder la vidéo - L’approche du régulateur de l’État de New York
My Chi To, Executive Deputy Superintendent for Insurance, New York State Department of Financial Services (NYDFS)
Regarder la vidéo
Visionner le Replay
#1 – L’explicabilité de l’IA en finance
Alors que les cas d’usages de l’IA dans la finance se multiplient, les algorithmes « boîtes noires » posent question pour leur manque de transparence et leur faible interprétabilité. Dans cette première conférence virtuelle de la série des « Lundis de l’IA et de la Finance » avec l’ACPR , nous discutons de la notion d’explicabilité qui apparaît de plus en plus cruciale pour garantir l’acceptabilité des algorithmes dans le secteur financier, en examinant notamment l’approche à quatre niveaux proposée par l’ACPR dans son document de réflexion sur la gouvernance des algorithmes.
La conférence se déroule en deux tables rondes autour de l’explicabilité de l’IA dans la finance, chacune suivie d’une discussion ouverte. La première table ronde analyse les enjeux académiques de l’explicabilité ainsi que les enjeux de régulation. La deuxième table ronde se penche sur les attentes du marché concernant l’explicabilité.
Introduction : David Bounie, Télécom Paris, Institut Polytechnique de Paris et Olivier Fliche, Directeur du pôle fintech-innovation à l’ACPR.
Table ronde : l’explicabilité, de la théorie à la régulation
- Le concept d’explicabilité en informatique et science des données
Florence d’Alché-Buc, Professeure à Télécom Paris, Institut Polytechnique de Paris
Télécharger la présentation
- Le concept d’explicabilité pour la société
Winston Maxwell, Directeur d’étude en droit numérique, Télécom Paris, Institut Polytechnique de Paris
Télécharger la présentation - Le concept d’explicabilité du point de vue du régulateur – L’approche « 4 niveaux » de l’ACPR
Laurent Dupont, Data Scientist senior au pôle fintech-innovation à l’ACPR
Télécharger la présentation - Discussion et questions / réponses
Animation par Astrid Bertrand, doctorante de la chaire XAI for Anti-Money Laundering de Télécom Paris
Table ronde : Comment appréhender l’explicabilité pour les acteurs du marché ?
- Défis pour le marché
Jean Barrère, Associé Data Intelligence chez PwC France et Maghreb
Télécharger la présentation
- L’explicabilité des algorithmes dans l’assurance
Antoine Lissowski, Directeur Général de CNP Assurances - Discussion et questions / réponses
Animation par Olivier Fliche
Conclusion : David Bounie et Olivier Fliche
Visionner le Replay
