European Compliance of AI Systems: Basic Statistical Tools

Conformité européenne des systèmes d’IA : outils statistiques élémentaires

Philippe Besse (1)

1 IMT - Institut de Mathématiques de Toulouse UMR5219

Following the publication of the white paper for an excellence and trust-based approach to AI, the European Commission (EC) has published numerous regulatory proposals including an AI Act (EC, 2021) establishing harmonized rules on artificial intelligence (AI). What will be the consequences and impacts of the upcoming adoption of this text from the point of view of a mathematician or rather a statistician involved in the design of high-risk AI systems as defined by the EC? What tools and methods can be used to reach future compliance obligations? Rigorous and documented analysis of the data and performance, robustness, resilience of the algorithm, its explicability, and the risks of discriminatory bias for fundamental rights. These questions are illustrated by a numerical example analogous to a credit score (cf. tutorial) in search of the least bad compromise between all the constraints. We conclude on the advances and limitations of the proposed regulation for high risk AI systems.

Suite à la publication du livre blanc pour une approche de l’IA basée sur l’excellence et la confiance, la Commission Européenne (CE) a publié de nombreuses propositions de textes réglementaires dont un AI Act (CE, 2021) établissant des règles harmonisées sur l’intelligence artificielle (IA). Quels seront les conséquences et impacts de l’adoption à venir de ce texte du point de vue d’un mathématicien ou plutôt statisticien impliqué dans la conception de système d’intelligence artificielle (IA) à haut risque au sens de la CE ? Quels outils et méthodes permettent de répondre aux obligations à venir de conformité : analyse rigoureuse et documentée des données traitées, des performances, robustesse, résilience de l’algorithme, de son explicabilité, des risques pour les droits fondamentaux, de biais discriminatoires ? Ces questions sont illustrées par un exemple numérique analogue à un score de crédit (cf. tutoriel) à la recherche d’un moins mauvais compromis entre toutes les contraintes. Nous concluons sur les avancées et limites du projet de règlement pour les systèmes d’IA à haut risque.

Mots clés: machine learning; bias; discrimination; disparate impact; AI Act; european regulation

Mots clés: intelligence artificielle; apprentissage automatique; discrimination; effet disproportionné; AI Act; réglementation européenne

Domaines: Intelligence artificielle [cs.AI]; Statistiques [math.ST]; Droit

Philippe Besse. Conformité européenne des systèmes d’IA : outils statistiques élémentaires. Statistique et Société, 2022, 10 (3). ⟨hal-03253111v4⟩