Fairness & Verantwortung

KI-Systeme sortieren Bewerbungen vor, bewerten Kreditanträge und unterstützen Ärztinnen bei Diagnosen. Das kann Entscheidungen schneller und manchmal gerechter machen, denn Menschen haben auch Vorurteile. Aber ein System, das aus Daten lernt, lernt eben auch die Schieflagen dieser Daten. Und anders als bei einem Menschen fällt das oft erst auf, wenn schon tausende Entscheidungen gefallen sind.

Verzerrung kommt aus den Daten

Ein Modell kennt die Welt nur durch seine Trainingsdaten. Sind die Daten verzerrt, ist es das Modell auch. Das bekannteste Beispiel kommt von Amazon: Ab 2014 trainierte das Unternehmen ein Bewerbungssystem mit den Lebensläufen aus zehn Jahren, in denen vor allem Männer eingestellt worden waren. Das System lernte daraus, Lebensläufe abzuwerten, in denen das Wort 'Frauen' vorkam, etwa im Namen eines Vereins. Amazon stoppte das Projekt, bevor es echte Bewerbungen aussortierte, doch das Prinzip bleibt. Man kann sich die Trainingsdaten wie einen Beutel Kugeln vorstellen: Wenn eine Sorte darin stark überwiegt, zieht das System fast immer diese Sorte, ganz gleich, wie neutral der Algorithmus selbst gebaut ist.

Wer trägt die Verantwortung?

Die Antwort ist klar: immer Menschen und Unternehmen, nie 'die KI'. Ein Algorithmus kann nicht haften, so wie auch ein Auto nicht haftet, sondern Hersteller oder Fahrer. In der EU ist seit 2024 der AI Act in Kraft, seine Pflichten greifen gestaffelt über mehrere Jahre. Er ordnet Systeme nach Risiko: Für Hochrisiko-Anwendungen wie Bewerbungsauswahl oder Kreditvergabe gelten strenge Vorgaben zu Datenqualität, Dokumentation und menschlicher Aufsicht. Wer ein System baut, haftet für sein Produkt, und wer es einsetzt, für den Einsatz. 'Das hat der Computer entschieden' ist keine gültige Ausrede, weder rechtlich noch moralisch.

Wie fairere Systeme entstehen

Fairness passiert nicht von allein, sie wird gebaut und gemessen. Gute Teams prüfen ihre Trainingsdaten auf Schieflagen und gleichen sie gezielt aus. Sie testen das fertige System getrennt für verschiedene Gruppen, denn eine hohe Gesamtgenauigkeit kann eine miserable Genauigkeit für eine kleine Gruppe verstecken. Den Abstand zwischen zwei solchen Quoten gibt man in Prozentpunkten an: 70 Prozent Zusagen in der einen Gruppe und 52 Prozent in der anderen sind 18 Prozentpunkte Unterschied. Solche Teams dokumentieren außerdem, was das System kann und was nicht, und lassen wichtige Entscheidungen von Menschen bestätigen. Und weil sich Daten und Nutzung ändern, wird all das nicht einmal geprüft, sondern laufend.

Dein Umgang damit

Auch als Betroffene bist du nicht machtlos. In der EU gibt dir die Datenschutz-Grundverordnung bei rein automatisierten Entscheidungen mit erheblicher Wirkung das Recht, eine menschliche Überprüfung zu verlangen, deinen Standpunkt darzulegen und die Entscheidung anzufechten. Frag nach, wenn dir eine Ablehnung seltsam vorkommt: Wurde ein automatisches System eingesetzt, und nach welchen Kriterien? Melde offensichtliche Fehlurteile, denn Betreiber von Hochrisiko-Systemen müssen deren Einsatz überwachen und schwere Vorfälle an die Behörden melden. Und im eigenen Alltag gilt dasselbe wie für Unternehmen: Wenn du KI-Ergebnisse weitergibst, übernimmst du die Verantwortung dafür.