Das Fairness-Dilemma im EU AI Act:

Der Countdown läuft unaufhaltsam: Am 2. August 2026 treten zentrale Anforderungen des EU AI Acts für zahlreiche Akteure verbindlich in Kraft. Was für viele Unternehmen lange Zeit wie eine abstrakte Regulierung aus Brüssel klang, wird nun zur operativen Realität. Wer KI-Systeme in Europa entwickelt, vertreibt oder einsetzt, muss sich künftig an umfangreiche Compliance-, Risiko- und Governance-Anforderungen halten, wie wir sie bislang vor allem aus stark regulierten Branchen wie dem Finanz- oder Gesundheitswesen kennen.

Wenn Sie wie wir seit Jahren Machine-Learning-Systeme in regulierten Umgebungen entwickeln und betreiben, sind Ihnen viele der Grundprinzipien des AI Acts allerdings nicht neu. Themen wie Nachvollziehbarkeit, Modellrisiken, menschliche Aufsicht und reproduzierbare Trainingsprozesse gehören bereits heute zu unserem Alltag.

Für mich persönlich ist Ethik seit jeher ein zentraler Leitbegriff bei meiner Arbeit. Aus dieser tiefen Überzeugung heraus habe ich die Tragweite dieser Entwicklung und die daraus resultierenden strategischen Schritte bereits im Jahr 2025 gemeinsam mit dem Aufsichtsrat der KENBUN IT AG intensiv behandelt. Uns war damals schon bewusst: AI Governance ist kein nachgelagerter Compliance-Prozess, sondern ein zentraler Bestandteil moderner Softwarearchitektur.

Mit Blick auf die nun unaufhaltsam näher rückenden Termine im August 2026 habe ich mir die Verordnung in den letzten Wochen noch einmal gezielt vorgenommen. Die EU nennt in diesem Rahmen eine Reihe unverbindlicher ethischer Grundsätze, die als Fundament dienen sollen. Zu diesen sieben Prinzipien gehören:

• Menschliches Handeln und menschliche Aufsicht
• Technische Robustheit und Sicherheit
• Privatsphäre und Daten-Governance
• Transparenz
• Vielfalt, Nichtdiskriminierung und Fairness
• Soziales und ökologisches Wohlergehen
• Rechenschaftspflicht

Bei meiner erneuten tieferen Analyse kristallisierte sich vor allem ein Begriff aus dieser Liste als die wohl größte regulatorische und technische Bruchstelle heraus: das Konzept der „Fairness“. Während Werte wie Transparenz oder IT-Sicherheit klare technische Standards erlauben, bleibt Fairness im Kern ein extrem diffuser Begriff.

Ich begleite seit mehreren Jahren Finanzinstitute und andere Unternehmen bei der Einführung und dem Betrieb KI-gestützter Systeme. Dabei habe ich immer wieder beobachtet, daß die größten Herausforderungen selten durch die Algorithmen selbst entstehen. Viel komplexer ist meist die Frage, wie wir Entscheidungen nachvollziehbar dokumentiert, Risiken kontrolliert und Verantwortlichkeiten klar geregelt bekommen. Genau an dieser Stelle treffen nun regulatorische Anforderungen auf mathematische Grenzen. Und diese Grenzen sind entscheidend für das Verständnis dessen, was Sie in Ihrem Unternehmen im Rahmen des AI Acts tatsächlich leisten können.

3. Die mathematische Realität: Warum Fairness nicht eindeutig definierbar ist

Wenn wir uns mit den mathematischen Grundlagen des Machine Learnings beschäftigen, stoßen wir schnell auf ein zentrales Problem: Fairness ist kein einheitlicher mathematischer Begriff. Es existieren mehrere etablierte Fairness-Kriterien, die unterschiedliche Vorstellungen von Gerechtigkeit abbilden – und die wir unter bestimmten Bedingungen mathematisch nicht gleichzeitig erfüllen können.

Einen wichtigen Beitrag zu diesem Verständnis lieferten Jon Kleinberg und seine Mitautoren von der Cornell University in ihrer Arbeit „Inherent Trade-Offs in the Fair Determination of Risk Scores“. Sie zeigten mathematisch, dass wir bestimmte Fairness-Kriterien bei unterschiedlichen Basisraten zwischen Bevölkerungsgruppen unmöglich gleichzeitig erfüllen können.

In der ML-Praxis kollidieren dabei meist drei etablierte Kernmetriken miteinander:

1. Predictive Parity (Kalibrierung): Die Aussagekraft eines Risikoscores soll für alle Gruppen identisch sein. Wenn ein Score beispielsweise eine Eintrittswahrscheinlichkeit von 80 % prognostiziert, sollte diese Wahrscheinlichkeit unabhängig von der Gruppenzugehörigkeit dieselbe Bedeutung haben.
2. Equalized Odds (Gleichheit der Fehlerraten): Die Raten von False Positives und False Negatives müssen über verschiedene Gruppen hinweg vergleichbar sein.
3. Demographic Parity: Positive Entscheidungen des Systems müssen über unterschiedliche Gruppen hinweg mit derselben Häufigkeit auftreten.

Sobald sich Gruppen jedoch in relevanten statistischen Merkmalen unterscheiden, entstehen unlösbare Zielkonflikte zwischen diesen Anforderungen. Eine Optimierung zugunsten einer Fairness-Metrik führt rechnerisch zwingend dazu, dass andere Fairness-Kriterien schlechter erfüllt werden.

Um diese mathematischen Trade-offs plastisch zu verdeutlichen, habe ich nachfolgend eine interaktive Simulation vorbereitet. Sie zeigt ein klassisches Kredit-Scoring für zwei Gruppen (A und B) mit statistisch unterschiedlichen historischen Basisraten und macht die unerbittlichen mathematischen Wechselwirkungen direkt sichtbar:

4. Länderfokus: Unterschiedliche Akzente in Deutschland und Frankreich

Diese Frage beschäftigt mich und mein Team nicht nur aus regulatorischer Sicht. Als Unternehmen, das seit Jahren Finanzinstitute und andere Organisationen in mehreren Ländern bei der Entwicklung, Einführung und dem Betrieb von KI-Systemen unterstützt – unter anderem im Bereich der Betrugs- und Fraud-Detection –, erleben wir regelmäßig, wie unterschiedlich Anforderungen in verschiedenen Märkten interpretiert werden. Mit unseren Aktivitäten in Deutschland und einer wachsenden Präsenz in Frankreich beobachte ich dabei interessante Unterschiede in der Herangehensweise.

Deutschland: Fokus auf Governance und Nachweisbarkeit

In Deutschland stehen strukturierte Prozesse, Risikomanagement und nachvollziehbare Dokumentation besonders im Vordergrund. Institutionen wie die Bundesnetzagentur (BNetzA) und das Bundesamt für Sicherheit in der Informationstechnik (BSI) tragen dazu bei, ein Umfeld zu schaffen, das stark auf Compliance und Nachweisbarkeit ausgerichtet ist. Gerade für kleine und mittlere Unternehmen stellt dies eine erhebliche Herausforderung dar. Neben juristischen Fragestellungen müssen sie auch statistische und technische Entscheidungen nachvollziehbar dokumentieren – häufig mit begrenzten personellen Ressourcen.

Frankreich: Fokus auf Innovation und praktische Erprobung

Frankreich setzt in der öffentlichen Diskussion stärker auf die Verbindung von Regulierung und Innovationsförderung. Unterstützt durch nationale KI-Initiativen und Unternehmen wie Mistral AI wird intensiv darüber diskutiert, wie Europa technologische Souveränität aufbauen kann, ohne Innovationspotenziale unnötig einzuschränken. Die französische Datenschutzbehörde CNIL hat früh begonnen, Unternehmen durch Leitlinien, Empfehlungen und Sandbox-Initiativen zu unterstützen. Solche regulatorischen Testumgebungen ermöglichen es Organisationen, neue KI-Anwendungen unter kontrollierten Bedingungen zu erproben und regulatorische Fragestellungen frühzeitig zu adressieren.

Beide Ansätze verfolgen letztlich dasselbe Ziel, vertrauenswürdige KI-Systeme zu fördern. Die Gewichtung der Mittel unterscheidet sich jedoch spürbar.

6. Der oft übersehene Vorteil: Regulierung als Exportfaktor

In der europäischen Diskussion betrachten viele den AI Act ausschließlich als regulatorische Belastung. Unsere praktische Erfahrung zeigt jedoch: Diese Sichtweise greift zu kurz.

Aktuell begleitet eines unserer Teams bei KENBUN ein Unternehmen in Thailand bei der sicheren Einführung von Agentic-AI-Lösungen. Besonders interessant ist dabei, dass sich zahlreiche bestehende und geplante regulatorische Vorgaben in Thailand stark an europäischen Standards orientieren. Dies gilt sowohl für Datenschutzthemen im Umfeld des dortigen Personal Data Protection Act (PDPA) als auch für die entstehenden Regelwerke rund um den Einsatz von KI, die unter anderem von der Electronic Transactions Development Agency (ETDA) vorangetrieben werden.

Natürlich unterscheiden sich die gesetzlichen Anforderungen im Detail. Dennoch zeigt das Projekt deutlich: Unternehmen, die bereits nach den Prinzipien der DSGVO und des EU AI Acts arbeiten, besitzen in vielen Bereichen einen erheblichen Vorsprung. Prozesse für Governance, Dokumentation, Risikobewertung, menschliche Aufsicht und Nachvollziehbarkeit lassen sich häufig mit vergleichsweise geringem Anpassungsaufwand auf andere Rechtsräume übertragen.

Dabei gerät oft aus dem Blick, dass europäische Regulierung nicht nur Kosten verursacht, sondern einen handfesten, langfristigen Wettbewerbsvorteil darstellt. Wer heute robuste und nachvollziehbare AI-Governance-Strukturen aufbaut, schafft damit nicht nur die Grundlage für Compliance innerhalb Europas, sondern verbessert gleichzeitig essenziell seine Fähigkeit, KI-Systeme international sicher und skalierbar auszurollen.