Was ist erklärbare KI (Explainable AI) und warum ist sie wichtig?

Erklärbare KI, abgekürzt XAI für Explainable Artificial Intelligence, bezeichnet Ansätze und Methoden, die transparent machen, wie ein KI-Modell zu einem Ergebnis gelangt. Statt einer “Black Box”, die Input reinbekommt und Output liefert, ohne dass man weiß was dazwischen passiert, soll erklärbare KI eine Begründung liefern.

Das Problem ist real. Moderne Deep-Learning-Modelle mit Millionen von Parametern sind für Menschen nicht direkt nachvollziehbar. Das ist bei der Empfehlung von Netflix-Filmen harmlos. Bei einer Kreditentscheidung, einer Diagnose oder einer Bewerbungsablehnung ist es ein rechtliches und ethisches Problem.

Welche Methoden gibt es?

LIME (Local Interpretable Model-agnostic Explanations): Erklärt einzelne Vorhersagen durch lokale Approximation mit einfacheren Modellen. SHAP (Shapley Additive Explanations): Berechnet, wie viel jedes Feature zur Vorhersage beigetragen hat. Saliency Maps: Zeigt bei Bildklassifikation, welche Pixel die Entscheidung beeinflusst haben.

Es gibt auch inherent erklärbare Modelle. Entscheidungsbäume sind von Natur aus transparent: Du kannst jeden Entscheidungspfad nachvollziehen. Der Preis ist oft geringere Leistung im Vergleich zu komplexeren, aber undurchsichtigeren Modellen.

Wann ist XAI verpflichtend?

Der EU AI Act sieht für Hochrisiko-KI-Systeme ausdrückliche Anforderungen an Transparenz und Erklärbarkeit vor. Dazu gehören KI-Systeme in Bereichen wie Kredit, Beschäftigung, Bildung und Strafverfolgung. Unternehmen, die in diesen Bereichen KI einsetzen, müssen erklären können, wie Entscheidungen zustande kommen.

Für alle anderen ist es zumindest eine Frage des Vertrauens: Nutzer und Entscheidungsträger akzeptieren KI-Empfehlungen leichter, wenn sie nachvollziehbar sind. Bei der KI-Implementierung beraten wir zu regulatorischen Anforderungen und Erklärbarkeitsstandards.