KI und Datenschutz: die Pflichten in der Reihenfolge, in der sie anfallen

Die üblichen Checklisten zählen ein Dutzend Pflichten auf: Rechtsgrundlage, Auftragsverarbeitungsvertrag, Drittland, Folgenabschätzung, Transparenz. Vollständig sind sie meistens. Brauchbar nicht, weil sie alles auf einen Haufen kippen.

Wer KI und Datenschutz im Unternehmen sortieren will, braucht keine Liste, sondern eine Reihenfolge. Manches gehört vor das Pilotprojekt, manches erst vor den Rollout, manches läuft dauerhaft. Drei Phasen also, dazu die Schwelle, ab der eine Datenschutz-Folgenabschätzung wirklich Pflicht wird.

KI und Datenschutz im Unternehmen: Phase 1 vor dem Pilotprojekt

Zuerst: sind überhaupt personenbezogene Daten im Spiel? Die Datenschutzkonferenz, das Gremium der deutschen Aufsichtsbehörden, schreibt in ihrer Orientierungshilfe klar: Einsatzfelder ohne jeden Personenbezug unterliegen dem Datenschutzrecht nicht, weder in der Eingabe noch in der Ausgabe. Prüf gründlich, ein Personenbezug entsteht nicht nur über Namen und Adressen.

Dann die Rechtsgrundlage, für jeden Verarbeitungsschritt. Der Landesbeauftragte für Datenschutz in Baden-Württemberg hat dazu ein Diskussionspapier veröffentlicht, auf das die Datenschutzkonferenz verweist. Kernaussage: Das berechtigte Interesse nach Artikel 6 Absatz 1 Buchstabe f trägt in der Praxis die meisten KI-Anwendungen. Es verlangt drei Dinge: ein legitimes Interesse, die Erforderlichkeit und eine Abwägung, die zugunsten des Unternehmens ausgeht. Die Einwilligung eignet sich laut demselben Papier bei komplexen KI-Systemen nur sehr bedingt, weil sie bestimmt und informiert sein muss und ein Widerruf die Anwendung aushebelt.

Der Sonderfall Beschäftigtendaten. Hier scheitert die Einwilligung am Abhängigkeitsverhältnis, an der Freiwilligkeit zweifeln Aufsichtsbehörden fast immer. Der EuGH hat am 30. März 2023 die hessische Parallelnorm gekippt, die herrschende Auslegung überträgt das auf § 26 Absatz 1 Satz 1 BDSG. Der LfDI Baden-Württemberg formuliert vorsichtig: sicher ist es nicht, wahrscheinlich schon. Der praktikable Weg ist die Betriebsvereinbarung, die die Datenschutzkonferenz ausdrücklich empfiehlt. Kein Freibrief: Der EuGH hat am 19. Dezember 2024 in der Sache C-65/23 entschieden, dass die DSGVO auch dort unantastbarer Mindeststandard ist und ein Gericht die Erforderlichkeit voll nachprüfen darf.

Der Auftragsverarbeitungsvertrag. Setzt du eine Cloud-KI zu eigenen Zwecken ein, ist der Anbieter in aller Regel dein Auftragsverarbeiter, und es braucht eine Vereinbarung nach Artikel 28 Absatz 3. Drei Punkte prüfst du vorher, sie sind in Standardverträgen weich formuliert: Trainings-Opt-out vertraglich zugesichert statt nur als Häkchen, vollständige Liste der Unterauftragnehmer mit Widerspruchsrecht, Löschfristen mit einer Zahl statt einer “angemessenen Frist”. OpenAI, Anthropic, Microsoft und Google bieten solche Verträge an. Für ChatGPT Free und Plus gibt es keinen.

Der Drittlandtransfer, und der ist in Bewegung. Der Angemessenheitsbeschluss zum EU-US Data Privacy Framework ist formal in Kraft, seine Statik bröckelt. Das EuG hat die Nichtigkeitsklage am 3. September 2025 abgewiesen, dagegen läuft seit Ende Oktober 2025 das Rechtsmittel beim EuGH unter C-703/25 P. Das Aufsichtsgremium PCLOB ist seit Januar 2025 ohne Quorum und kann die jährliche Überprüfung nicht liefern. Und der US Supreme Court hat am 29. Juni 2026 in Trump gegen Slaughter entschieden, dass die FTC nicht unabhängig vom Präsidenten steht, ausgerechnet die Behörde, die das Framework durchsetzt. Also: Schlag jeden Anbieter im offiziellen DPF-Verzeichnis nach. Steht er nicht drauf, brauchst du Standardvertragsklauseln plus eine dokumentierte Risikobewertung. Wie sehr sich das lohnt, zeigt der Stand vom 24. August 2026: Google und Microsoft sind dort in allen drei Rahmen aktiv zertifiziert, beide mit Re-Zertifizierung im September 2026. OpenAI und Anthropic sind gar nicht gelistet, weder aktiv noch inaktiv. Bei zwei der meistgenutzten Anbieter trägt der Angemessenheitsbeschluss also nicht, und das merkst du nur, wenn du nachsiehst. Prüf es selbst, die Liste ändert sich, und ein Eintrag kann auslaufen.

Phase 2: was vor dem Rollout dazukommt

Vor der Freischaltung für alle kommen vier Dinge dazu. Zuerst die Entscheidung über die Folgenabschätzung, dazu unten die Schwelle.

Die Datenschutzerklärung. Rein gehören Zweck, Rechtsgrundlage, der Anbieter als Empfänger namentlich, der Drittlandtransfer samt Grundlage und, sobald automatisiert entschieden wird, die involvierte Logik plus Tragweite und Auswirkungen. Die Datenschutzkonferenz legt den Begriff der automatisierten Entscheidung weit aus: Er erfasst auch Anwendungen, deren Ergebnis eine Entscheidung nur wesentlich beeinflusst. Ein Vorschlagssystem, dem die Sachbearbeitung immer folgt, zählt dazu.

Die Transparenzpflicht aus der KI-Verordnung. Artikel 50 gilt seit dem 2. August 2026 und ist kein Datenschutzrecht, er kommt obendrauf. Interagiert ein System direkt mit Menschen, muss das offengelegt werden. Die maschinenlesbare Kennzeichnung synthetischer Inhalte greift für neue Systeme sofort, für Bestandssysteme bis zum 2. Dezember 2026.

Die interne Weisung. Die Datenschutzkonferenz empfiehlt, schriftlich festzulegen, welche Anwendungen zu welchen Zwecken erlaubt sind, mit Beispielen für beides. Ein Satz gehört in jede Weisung: Eine KI trifft keine Letztentscheidung mit Rechtswirkung. Als Verstoß gegen Artikel 22 nennen die Aufsichtsbehörden das System, das alle Bewerbungen auswertet und die Einladungen selbst verschickt.

Phase 3: der Dauerbetrieb

Drei Dinge laufen ab jetzt dauerhaft. Genau die schlafen nach drei Monaten als Erstes ein.

Artikel 4 der KI-Verordnung gilt seit Februar 2025, seit dem 27. Juli 2026 in neuer Fassung. Verlangt wird nicht mehr ein ausreichendes Maß an KI-Kompetenz, sondern Maßnahmen, die deren Entwicklung fördern. Ein Niveau pro Person musst du nicht garantieren, die Maßnahme selbst schon.

Die Unterauftragnehmer deines Anbieters ändern sich. Das Widerspruchsrecht im Vertrag nützt nur, wenn jemand die Mitteilungen liest.

Die Fristen der KI-Verordnung verschieben sich, die Pflichten nicht. Die Digital-Omnibus-Verordnung (EU) 2026/1744 ist am 27. Juli 2026 in Kraft getreten und hat die Pflichten für eigenständige Hochrisiko-Systeme nach Anhang III auf den 2. Dezember 2027 geschoben, für produkteingebettete Systeme nach Anhang I auf den 2. August 2028. Das sind Höchstfristen, der tatsächliche Start hängt an einer Bestätigung der Kommission zu den flankierenden Normen. Für den typischen Mittelstandseinsatz, also Textentwürfe, Zusammenfassungen, Kundendialog, ist ohnehin nicht Hochrisiko einschlägig, sondern Artikel 50. Hochrisiko wird es bei Personalauswahl, Leistungsbewertung und Kreditwürdigkeit. Wer KI ins Recruiting bringt, plant ein zweites Pflichtenpaket ein.

Ab wann eine Datenschutz-Folgenabschätzung wirklich Pflicht ist

Eine Folgenabschätzung nach Artikel 35 ist Pflicht, wenn eine von zwei Bedingungen zutrifft.

Erstens: Der Fall steht auf der Muss-Liste der Datenschutzkonferenz. Die Liste für den nicht-öffentlichen Bereich ist von 2018 und nennt KI trotzdem schon ausdrücklich. Nummer 11 erfasst den Einsatz künstlicher Intelligenz zur Steuerung der Interaktion mit Betroffenen oder zur Bewertung persönlicher Aspekte, als Beispiel steht dort ein Callcenter, das automatisiert die Stimmungslage der Anrufer auswertet. Nummer 8 erfasst die umfangreiche Verarbeitung von Beschäftigtendaten zur Bewertung der Arbeitstätigkeit, allerdings nur, wenn sich daraus Rechtsfolgen ergeben oder Betroffene erheblich beeinträchtigt werden.

Zweitens: Zwei oder mehr der neun Kriterien der Artikel-29-Datenschutzgruppe treffen zu. Scoring, automatisierte Entscheidung mit Rechtswirkung, systematische Überwachung, vertrauliche oder höchstpersönliche Daten, Verarbeitung in großem Umfang, Zusammenführen von Datensätzen, schutzbedürftige Betroffene, innovative Technologie, Verhinderung einer Rechtsausübung. Aufpassen: “innovative Technologie” trifft bei generativer KI praktisch immer zu. Deine Entscheidung fällt also am zweiten Kriterium.

Darunter reicht eine dokumentierte Risikoeinschätzung. Die Aufsichtsbehörden verlangen ohnehin eine Vorabprüfung zu Art, Umfang, Zweck und Umständen, und die passt auf eine Seite. Ein Assistent für Produkttexte ohne Kundendaten braucht nur diese Seite. Ein Chatbot, der Kunden anhand ihrer Bestellhistorie berät, fällt unter Nummer 11. Ein Werkzeug, das Bewerbungen vorsortiert, reißt vier Kriterien auf einmal.

Zum Aufwand ein Erfahrungswert aus unseren Projekten, keine Erhebung: Eine Folgenabschätzung bindet für einen abgegrenzten Anwendungsfall zwei bis vier Arbeitstage intern. Bei 50 Euro internen Stundenkosten sind das 800 bis 1.600 Euro an Arbeitszeit, dazu das Honorar deines Datenschutzbeauftragten. Für einen Anwendungsfall verkraftbar. Für sieben parallel gestartete Ideen nicht.

Wann du den Anwendungsfall besser zuschneidest statt absicherst

Manchmal frisst der Datenschutzaufwand den Nutzen. Der häufigste Fall: Kundenfeedback soll ausgewertet werden, und weil es technisch geht, ordnet man die Stimmung einzelnen Kunden zu. Der Zusatznutzen gegenüber einer Auswertung ohne Namen ist klein, der Weg dorthin führt über Muss-Liste Nummer 11 und damit über Folgenabschätzung, erweiterte Betroffeneninformation und Löschkonzept.

Streich den Personenbezug, statt ihn abzusichern. Namen, Kundennummern und Bestellbezüge raus, nur die Texte auswerten. Dann fällt der Fall aus dem Datenschutzrecht heraus, bei derselben Erkenntnis in einem Bruchteil der Zeit. Faustregel: Ist der Personenbezug für deine Entscheidung nur nice to have, nimm ihn raus. Prüf nach, ob er wirklich weg ist, in freien Textfeldern stehen erstaunlich oft Namen.

Der Fehler, der am häufigsten teuer wird

Ein Betrieb bucht den Business-Tarif, alle atmen auf, weil es “die Geschäftsversion” ist. Den Auftragsverarbeitungsvertrag schließt niemand ab, weil alle annehmen, er sei im Abo enthalten.

Ist er nicht. Bei OpenAI muss er aktiv abgeschlossen und dokumentiert werden. Bis das jemand merkt, laufen Monate, in denen jede Übermittlung personenbezogener Daten ohne wirksames Auftragsverhältnis stattfindet. Auffallen tut das nicht im Betrieb, sondern bei der ersten Betroffenenauskunft oder einer Prüfung, rückwirkend für den gesamten Zeitraum. Verstöße gegen Artikel 28 liegen im unteren Bußgeldrahmen nach Artikel 83 Absatz 4, bis 10 Millionen Euro oder 2 Prozent des weltweiten Jahresumsatzes. Fehlt zusätzlich die Grundlage für den Transfer, greift der obere Rahmen.

Es richtig zu machen kostet eine halbe Stunde. Es rückwirkend zu heilen geht gar nicht.

Was du jetzt tun kannst

Nimm einen Anwendungsfall, nicht sieben. Reihenfolge: Personenbezug, Rechtsgrundlage, Auftragsverarbeitungsvertrag, Drittland, dann Pilot. Vor dem Rollout Folgenabschätzung oder dokumentierte Einschätzung, Datenschutzerklärung, interne Weisung. Ein Nachmittag pro Fall, wenn du die Reihenfolge einhältst. Drei Wochen, wenn du hinten anfängst.

Dieser Beitrag ersetzt keine Rechtsberatung. Für die verbindliche Bewertung deines Falls brauchst du deinen Datenschutzbeauftragten oder eine Kanzlei.

Wir machen den technischen Teil: welches Werkzeug passt, welche Daten das Haus verlassen und welche nicht. Wie wir das als KI-Agentur aufsetzen, steht dort. Brauchst du erst die Reihenfolge der Anwendungsfälle, hilft der Fahrplan für die KI-Strategie im Mittelstand. Neue Werkzeuge bewerten, Weisungen aktuell halten, Leute nachschulen: das gehört in die Betreuung. Willst du deinen ersten Anwendungsfall durch genau diese Reihenfolge schieben, nimm dir eine Fokus-Session. 60 Minuten entscheiden, ob du eine Folgenabschätzung brauchst oder eine Seite reicht.