Tech Sprint sur l'explicabilité des algorithmes

À propos

Sujet

Le Tech Sprint est une démarche innovante. Des établissements de crédit volontaires, partenaires de l’ACPR qui se place en position de facilitateur, ont conçu et entraîné des modèles prédictifs pour déterminer le risque de crédit à la consommation.

Les participants du Tech Sprint (fintechs, banques, chercheurs ou acteurs du secteur financier, étudiants en data science, etc) auront pour défi d’expliquer le comportement et la nature de ces modèles.

L’explicabilité est essentielle pour la confiance dans les dispositifs d’intelligence artificielle car elle permet de mieux comprendre le résultat de l’algorithme mais aussi facilite la validation et la surveillance des modèles.

Les objectifs de ce Tech Sprint sont multiples :

• Éclairer sur les enjeux réglementaires, notamment en termes de maîtrise des risques, de gouvernance et de protection de la clientèle ;
• Communiquer, à partir d’un cas d’usage, sur les méthodes et niveaux  d’explicabilité qu’il est possible de fournir tant pour un public d’auditeurs que pour des experts métiers ou la clientèle ;
• Promouvoir les échanges et la collaboration entre acteurs du secteur sous l’égide de l’ACPR ;
• Mettre en valeur le savoir-faire français en matière de data science.

Format

Deux sessions (l’une pour les professionnels, l’autre pour les étudiants) d’une journée et demi.

50 participants maximum par session par équipe de 2 à 5 personnes (avec un maximum de 12 équipes).

Encadrement : par des data scientists et des juristes du pôle Fintech-Innovation de l’ACPR.

• Networking : entre participants, partenaires et invités (les sessions de présentation des résultats seront ouvertes à un public plus large, en fonction des règles sanitaires en vigueur) ;
• Pour la session réservée aux étudiants :
  • Possibilité de discuter avec les experts en data et en innovation de la Banque de France ;
  • Carte cadeau de 150 € pour chacune des personnes composant les 3 équipes gagnantes.

Quand ?

Tech Sprint pour les professionnels

Mercredi 30 juin 9h-18h

Jeudi 1^er juillet 14h-17h

Tech Sprint pour les étudiants

Jeudi 8 juillet 9h-18h

Vendredi 9 juillet 14h-17h

Où ?

Banque de France

31 rue Croix-des-Petits-Champs

75001 Paris

Voir sur la carte

Ressources

Les documents disponibles ci-dessous fournissent plus d’informations sur le déroulement du Tech Sprint :

• Le règlement définit les modalités de participation et d’organisation du Tech Sprint ;
• Le document de réflexion de l’ACPR sur la gouvernance de l’IA dans le secteur financier publié en juin 2020 qui place l’explicabilité comme pilier du développement de l’IA et définit plusieurs niveaux d’explicabilité ;
• Le Guide de l’Analyste destiné aux participants contient autant d’informations que possible afin de se préparer au Tech Sprint du 30 juin : les objectifs et attendus, ainsi qu’une liste de références à consulter optionnellement avant ou durant le défi.

Résultats

Première édition du Tech Sprint pour les professionnels (30 juin-1^er juillet)

Ce premier Tech Sprint de l’ACPR avait pour objectif d’apporter des éclairages sur les enjeux règlementaires soulevés par l’IA en termes de maîtrise des risques, de gouvernance et de protection de la clientèle. Il a permis, à partir d’un cas d’usage, d’expliciter concrètement les méthodes et les niveaux d’« explicabilité » qu’il est possible de fournir selon que l’on s’adresse à la clientèle, à des experts métiers ou à des auditeurs. L’« explicabilité » est une notion clé, au cœur des travaux de l’Union européenne sur la future réglementation de l’IA. Elle contribue à la mise en place d’une IA de confiance.

Concrètement, des établissements de crédit (BPCE, Crédit Mutuel Arkéa, Société Générale et Younited Crédit) ont, sur la base du volontariat, conçu des modèles prédictifs pour identifier le risque de crédit à la consommation. Charge ensuite aux 12 équipes d’analystes sélectionnées, de les expliquer en interrogeant ces « boîtes noires » et en développant des outils d’explication au cours d’une journée de « hackathon », le 30 juin dernier. Les solutions ont été présentées le lendemain 1er juillet à un jury composé d’experts de l’ACPR et de la Banque de France. Une seconde édition, ouverte aux étudiants, aura lieu le jeudi 8 et vendredi 9 juillet.

Les travaux présentés par les différentes équipes à l’issue du Tech Sprint ont été salués pour leur qualité : ils illustrent le réel savoir-faire français en matière de data science. Parmi eux, le jury a récompensé les solutions proposées par les équipes Quantmetry-Stellantis, Zelros et BourbakIA (équipe rassemblant des data scientists de plusieurs entreprises : AIvidence, Untie Nots, Quinten Finance, Soyhuce, H2O.ai).