Beantwortet von der Redaktion von Business.Digital Stand
Bias bezeichnet systematische Fehler oder Verzerrungen, die ein KI-Modell dazu bringen, bestimmte Gruppen, Inhalte oder Ergebnisse bevorzugt oder benachteiligend zu behandeln. Das Modell ist nicht “absichtlich” unfair, aber es hat aus verzerrten Daten gelernt und reproduziert diese Verzerrung.
Das bekannteste Beispiel aus der Praxis: Ein Bewerbungs-Screening-Tool trainiert auf historischen Einstellungsdaten eines Unternehmens, das in der Vergangenheit überwiegend Männer eingestellt hat. Das Modell lernt, männliche Bewerber zu bevorzugen. Es macht technisch genau das, wofür es trainiert wurde. Aber das Ergebnis ist diskriminierend.
Woher kommt Bias?
Die häufigste Quelle ist der Trainingsdatensatz. Wenn die Trainingsdaten die reale Welt verzerrt abbilden, übernimmt das Modell diese Verzerrung. Ein Sprachmodell, das hauptsächlich auf englischen Texten trainiert wurde, wird bei anderen Sprachen schlechter performen. Eines, das auf Texten aus bestimmten Subkulturen trainiert wurde, könnte deren Stereotypen reproduzieren.
Bias kann auch durch Auswahl entstehen. Wenn du entscheidest, welche Features ein Modell benutzt, und dabei wichtige Merkmale ausschließt oder irrelevante einbeziehst, beeinflusst das die Ergebnisse systematisch. Und bei der Annotation setzen Menschen unwissentlich eigene Vorannahmen, was zu annotierten Trainingsdaten mit eingebautem Bias führt.
Wie geht man mit Bias um?
Es gibt kein perfektes Werkzeug gegen Bias. Aber es gibt Ansätze: Trainingsdaten auf Ausgewogenheit prüfen, Modellausgaben auf Unterschiede zwischen Gruppen testen, unabhängige Audits durchführen. Für Hochrisikoanwendungen wie Kreditvergabe, Personalentscheidungen oder Strafverfolgung schreibt der EU AI Act gesetzliche Anforderungen vor, darunter die Prüfung der Trainingsdaten auf Verzerrungen und menschliche Aufsicht. Die Pflichten für eigenständige Hochrisiko-Systeme greifen nach dem Digital Omnibus vom Juni 2026 erst ab dem 2. Dezember 2027, für KI in regulierten Produkten ab dem 2. August 2028. (Stand: August 2026)
Für Unternehmen ist das relevant: KI-Systeme, die Entscheidungen über Menschen treffen, müssen auf Bias geprüft werden. Sowohl aus ethischen Gründen als auch aus rechtlicher Vorsicht. Bei der KI-Implementierung berücksichtigen wir diese Fragen von Anfang an.