Le dilemme de l’équité dans l’AI Act européen :

L’échéance approche à grands pas : le 2 août 2026, les principales exigences de l’AI Act européen entreront en vigueur et deviendront obligatoires. Ce qui ressemblait encore récemment à une lointaine directive bruxelloise devient aujourd’hui une réalité opérationnelle. Quiconque développe, commercialise ou déploie des systèmes d’IA en Europe devra se conformer à des exigences strictes en matière de gestion des risques et de gouvernance. Des standards que l’on ne retrouvait jusqu’à présent que dans des secteurs ultra-réglementés comme la finance ou la santé.

Pour ceux qui, comme nous, déploient des systèmes de Machine Learning dans des environnements critiques depuis des années, ces principes n’ont rien de nouveau. La traçabilité, les risques liés aux modèles, la supervision humaine et la reproductibilité des processus d’entraînement font déjà partie de notre quotidien.

L’éthique a toujours été un fil conducteur dans mon travail. C’est pour cette raison que j’ai anticipé ces enjeux dès 2025 avec le conseil de surveillance de KENBUN IT AG. Notre conviction était déjà claire : la gouvernance de l’IA ne se résume pas à une case à cocher en fin de projet. C’est le cœur même d’une architecture logicielle moderne.

À l’approche des échéances d’août 2026, je me suis replongé dans ces textes. L’Union européenne y énonce une série de principes éthiques non contraignants censés servir de fondation :

• Intervention et supervision humaines
• Robustesse technique et sécurité
• Vie privée et gouvernance des données
• Transparence
• Diversité, non-discrimination et équité
• Bien-être social et environnemental
• Obligation de rendre des comptes

À la lecture, un concept se détache comme la principale zone de friction entre le droit et la technologie : l’« équité » (fairness). Alors que des exigences comme la sécurité informatique reposent sur des normes techniques claires, l’équité reste, par essence, une notion extrêmement vague.

Au fil des projets menés avec des institutions financières et divers grands comptes, le constat est toujours le même : les défis majeurs viennent rarement de l’algorithme lui-même. Il est bien plus complexe de documenter les décisions, de modéliser les risques et de définir les responsabilités. C’est précisément là que les exigences réglementaires se heurtent aux limites mathématiques. Et comprendre ces limites est indispensable pour saisir ce que votre entreprise peut réellement accomplir dans le cadre de l’AI Act.

3. La réalité mathématique : pourquoi l’équité absolue est une illusion

Si l’on creuse les fondements statistiques du Machine Learning, on se heurte rapidement à un mur : l’équité n’est pas un concept mathématique standardisé. Il existe de multiples définitions de la justice algorithmique, et celles-ci sont, sous certaines conditions, mathématiquement incompatibles.

Les travaux de Jon Kleinberg (Université Cornell) et de son équipe sont à ce titre fondateurs (« Inherent Trade-Offs in the Fair Determination of Risk Scores »). Ils ont prouvé qu’il est mathématiquement impossible de satisfaire simultanément différents critères d’équité dès lors que les taux de base (base rates) diffèrent entre deux populations.

En pratique, trois indicateurs de performance (metrics) s’opposent directement :

1. La parité prédictive (Calibration / Predictive Parity) : La fiabilité d’un score doit être identique pour tous. Si l’IA prédit un risque à 80 %, cette probabilité doit être vraie indépendamment du groupe auquel appartient l’individu.
2. L’égalité des chances (Equalized Odds) : Les taux de faux positifs et de faux négatifs doivent être strictement identiques d’un groupe à l’autre.
3. La parité démographique (Demographic Parity) : Le système doit délivrer le même pourcentage de décisions positives pour chaque groupe.

Le problème ? Dès que la réalité historique présente des différences statistiques entre deux groupes, toute optimisation en faveur de l’un de ces indicateurs dégradera mathématiquement les autres. Choisir une définition de l’équité, c’est obligatoirement en sacrifier une autre.

Pour rendre cette mécanique tangible, j’ai modélisé ci-dessous une simulation interactive. Elle présente un système classique d’octroi de crédit pour deux groupes (A et B) présentant des taux de base différents. Jouez avec le seuil d’acceptation pour constater par vous-même ces interactions inéluctables :

4. Focus pays : les différentes approches en Allemagne et en France

Chez KENBUN, nous suivons de près l’interprétation de ces règles à travers l’Europe. Accompagnant des acteurs financiers dans le déploiement de systèmes d’IA (notamment pour la détection de fraude), je constate des différences culturelles marquées. Avec notre ancrage historique en Allemagne et notre développement en France, voici comment ces deux marchés abordent la question.

Allemagne : la primauté de la gouvernance et de la preuve

Outre-Rhin, l’accent est mis sur la rigueur des processus et la gestion des risques. Des institutions comme la BNetzA (Agence fédérale des réseaux) et le BSI (Sécurité informatique) imposent un environnement fortement axé sur la conformité et la traçabilité. Pour les PME, le défi est immense : au-delà des enjeux juridiques, il faut documenter chaque choix statistique et technique, souvent avec des ressources limitées.

France : l’équilibre entre innovation et souveraineté

En France, et particulièrement au sein des écosystèmes dans lesquels nous évoluons à Montpellier (comme le réseau RAFAL), le débat public cherche à concilier régulation et compétitivité. Portée par des acteurs comme Mistral AI, la volonté est de bâtir une souveraineté technologique européenne sans brider l’innovation. La CNIL s’est d’ailleurs très tôt positionnée comme un partenaire, en proposant des lignes directrices et des « bacs à sable » réglementaires (sandboxes) pour tester l’IA en conditions réelles tout en anticipant la conformité.

Si le but final est le même, une IA digne de confiance, la méthode diffère sensiblement.

6. L’atout souvent ignoré : la régulation comme moteur d’exportation

Dans le débat européen, beaucoup considèrent l’AI Act uniquement comme un fardeau réglementaire. Notre expérience sur le terrain prouve pourtant le contraire : cette vision est bien trop réductrice.

Actuellement, l’une de nos équipes chez KENBUN accompagne une entreprise en Thaïlande dans le déploiement sécurisé de solutions d’IA agentique (Agentic AI). Ce qui est particulièrement intéressant, c’est que de nombreuses réglementations thaïlandaises, actuelles ou en projet, s’inspirent fortement des standards européens. Cela vaut aussi bien pour la protection des données avec leur Personal Data Protection Act (PDPA) que pour les futurs cadres régissant l’utilisation de l’IA, portés notamment par l’Electronic Transactions Development Agency (ETDA).

Bien sûr, les exigences légales diffèrent dans les détails. Néanmoins, ce projet démontre clairement une chose : les entreprises qui opèrent déjà selon les principes du RGPD et de l’AI Act européen disposent d’une longueur d’avance considérable. Les processus de gouvernance, la documentation, l’évaluation des risques, la supervision humaine et la traçabilité peuvent souvent être transposés à d’autres juridictions avec un effort d’adaptation relativement mineur.

On oublie trop souvent que la réglementation européenne ne génère pas que des coûts ; elle constitue un véritable avantage concurrentiel à long terme. Bâtir aujourd’hui des structures de gouvernance de l’IA robustes et transparentes, c’est non seulement s’assurer d’être en conformité en Europe, mais c’est aussi et surtout décupler sa capacité à déployer des systèmes d’IA à l’international, de manière sûre et scalable.