L'équité algorithmique dans le secteur financier

Pour répondre à cette difficulté, l’approche longtemps dominante, dite d’« équité par l’ignorance », a consisté à exclure les variables sensibles des traitements statistiques. Si cette méthode a toujours été débattue, elle est aujourd’hui rendue largement obsolète par le développement des modèles d’intelligence artificielle (IA), qui sont capables de reconstituer l’information contenue dans ces variables. Plus largement, l’essor de l’IA conduit à renouveler la manière d’appréhender les enjeux d’équité algorithmique, en rendant nécessaire le développement d’approches plus explicites, plus robustes et mieux adaptées à la complexité des systèmes actuels.

Dans ce contexte, le présent document de réflexion expose tout d’abord le cadre juridique de l’équité algorithmique dans le secteur financier. Il montre que, si le principe de non discrimination est solidement établi, sa mise en œuvre est plus complexe lorsque les décisions reposent sur des modèles statistiques, et a fortiori sur des systèmes d’IA. Le règlement européen sur l’intelligence artificielle (« Règlement IA ») vient compléter ce cadre en posant des exigences d’équité pour les systèmes d’IA dits « à haut risque », et en affirmant un principe de non-discrimination pour l’ensemble des systèmes d’IA. Dans le secteur financier, ce règlement s’articule avec les règles relatives à la protection de la clientèle dans les secteurs bancaire et assurantiel, qui traduisent également des exigences d’équité, souvent selon une logique de « protection par l’abstention » (d’octroi ou de vente), là où le Règlement IA met davantage l’accent sur les risques d’exclusion. Enfin, la comparaison avec les cadres règlementaires étrangers met en évidence la diversité des approches.