Die DSGVO kennt keine Sonderregeln für künstliche Intelligenz. Ein Assistent, ein Agent oder ein Aufruf einer LLM-API ist eine Verarbeitung personenbezogener Daten, sobald solche Daten im Prompt, in den gelesenen Dokumenten oder in den Protokollen stehen. Neu ist der Weg der Daten: in Prompts, Suchindizes, Traces und in die Infrastruktur eines Modellanbieters. Dazu kommt die KI-Verordnung, die seit dem 2. August 2026 allgemein gilt. Wer KI DSGVO-konform einführen will, muss deshalb zuerst die Datenflüsse kennen und sie bewusst gestalten.

Dieser Leitfaden behandelt die Punkte, an denen die meisten Projekte entschieden werden: Rechtsgrundlage, Auftragsverarbeitung, Drittlandtransfer, Datenschutz-Folgenabschätzung, Mitbestimmung und die Bedeutung der KI-Verordnung für Unternehmen, die KI einsetzen, ohne selbst Modelle zu bauen. Er ist eine allgemeine Information aus technischer Sicht und keine Rechtsberatung. Klären Sie Ihre Entscheidungen mit Ihrer Datenschutzbeauftragten oder Ihrem Rechtsbeistand.

Wo personenbezogene Daten in einer KI-Integration auftauchen

  • Prompts und Anhänge: alles, was Beschäftigte oder Kunden eingeben, einfügen oder hochladen.
  • Abgerufener Kontext: CRM-Datensätze, Tickets, E-Mails oder Personalunterlagen, die das System sucht und dem Prompt hinzufügt.
  • Ausgaben: eine Zusammenfassung oder Bewertung zu einer Person ist ebenfalls ein personenbezogenes Datum.
  • Protokolle: gespeicherte Prompts und Antworten, Testdatensätze, Debug-Daten.
  • Trainingsdaten, falls Sie ein Modell anpassen oder nachtrainieren.

Diese Übersicht kommt zuerst. Eine Integration ohne Personenbezug, etwa für Code oder Produkttexte, hat datenschutzrechtlich wenig zu erledigen. Ein Assistent, der Kundentickets liest, hat alles Folgende zu erledigen.

DSGVO und KI: Rechtsgrundlage und Zweck

Jeder Zweck braucht eine Rechtsgrundlage nach Art. 6 DSGVO: Vertrag, rechtliche Verpflichtung, berechtigtes Interesse, Einwilligung oder eine der übrigen. Wer einen bestehenden Prozess um KI erweitert, übernimmt die alte Grundlage nicht automatisch; zu prüfen ist, ob der neue Einsatz mit dem Erhebungszweck vereinbar ist. Beim berechtigten Interesse gehört die Abwägung in die Dokumentation. Besondere Kategorien wie Gesundheitsdaten, biometrische Daten oder die Gewerkschaftszugehörigkeit benötigen zusätzlich einen Tatbestand nach Art. 9. Die einfachste Regel: Sie gehören nicht in Prompts, solange kein Tatbestand eindeutig greift.

Der Europäische Datenschutzausschuss hat sich im Dezember 2024 in der Stellungnahme 28/2024 zu KI-Modellen geäußert. Kurz gefasst: Das berechtigte Interesse kann als Grundlage dienen, wenn die übliche dreistufige Prüfung bestanden wird; ein mit personenbezogenen Daten trainiertes Modell ist nicht automatisch anonym; und wer ein Modell einsetzt, sollte zeigen können, dass er dessen Herkunft geprüft hat.

Auftragsverarbeitung: der AVV mit dem Modellanbieter

In den meisten Integrationen ist Ihr Unternehmen Verantwortlicher, und der Anbieter der API, zum Beispiel Anthropic, OpenAI oder eine Cloud-Plattform, verarbeitet die Daten in Ihrem Auftrag. Dafür ist ein Auftragsverarbeitungsvertrag nach Art. 28 nötig. Prüfen Sie in den aktuellen Bedingungen fünf Punkte: ob Eingaben zum Training verwendet werden, wie lange Prompts gespeichert bleiben, welche Unterauftragsverarbeiter beteiligt sind, wo verarbeitet wird und wie Löschung und Betroffenenanfragen unterstützt werden.

Die Datenschutzkonferenz (DSK) unterscheidet in ihrer Orientierungshilfe „Künstliche Intelligenz und Datenschutz“ vom 6. Mai 2024 geschlossene und offene Systeme und hält technisch geschlossene Systeme aus Datenschutzsicht für vorzugswürdig. Sie empfiehlt außerdem, die Nutzung von Eingaben zu Trainingszwecken auszuschließen, wo das möglich ist. Ein privat genutzter Verbraucher-Chatbot ist das Gegenteil davon: Ihr Unternehmen hat dort keinen Vertrag. Siehe auch warum geteilte KI-Chats öffentlich sind.

Drittlandtransfer

Verarbeitet der Anbieter Daten außerhalb des EWR, gilt Kapitel V der DSGVO. Nötig ist ein Angemessenheitsbeschluss für das Zielland oder eine geeignete Garantie wie die Standardvertragsklauseln, ergänzt um eine Transferprüfung. Für die USA deckt das EU-US Data Privacy Framework zertifizierte Unternehmen ab. Das Gericht der EU hat eine Klage dagegen im September 2025 abgewiesen; das Rechtsmittel war bei Redaktionsschluss anhängig. Standardvertragsklauseln als Rückfallebene sind daher sinnvoll. Mehrere Anbieter und Cloud-Plattformen bieten eine Verarbeitung in EU-Regionen an. Das entschärft die Transferfrage, erledigt sie aber erst, wenn auch Supportzugriffe und Unterauftragsverarbeiter geprüft sind. Die Zugangswege beschreibt der Leitfaden zur Claude-API-Integration.

DSFA, Datenminimierung, Löschfristen und Transparenz

  • Datenschutz-Folgenabschätzung (Art. 35): erforderlich bei voraussichtlich hohem Risiko, etwa bei systematischer Bewertung von Personen, Beschäftigtenüberwachung oder besonderen Kategorien in großem Umfang. Die Vorprüfung gehört an den Projektanfang.
  • Datenminimierung: Das Modell erhält nur, was die Aufgabe braucht. Kennungen werden vor dem Prompt maskiert oder pseudonymisiert. Pseudonymisierte Daten bleiben personenbezogen, das Risiko sinkt aber.
  • Speicherbegrenzung: Prompt-Protokolle bekommen eine Löschfrist, die technisch durchgesetzt wird.
  • Verzeichnis von Verarbeitungstätigkeiten (Art. 30): Der KI-Einsatz wird aufgenommen, der Anbieter als Empfänger genannt.
  • Informationspflichten (Art. 13 und 14): Die Datenschutzhinweise nennen den KI-Einsatz und die Empfänger.
  • Automatisierte Entscheidungen (Art. 22): Entscheidungen mit Rechtswirkung dürfen nicht allein auf automatisierter Verarbeitung beruhen, sofern keine Ausnahme greift. Die DSK weist ausdrücklich darauf hin, dass ein Mensch die Entscheidung tatsächlich treffen muss.
  • Betroffenenrechte: Daten einer Person müssen in Indizes und Protokollen auffindbar und löschbar sein.

Beschäftigte und Betriebsrat

Die DSK empfiehlt, für die berufliche Nutzung betriebliche Accounts bereitzustellen, klare interne Regeln zu erlassen, Beschäftigte zu schulen und Datenschutzbeauftragte sowie die Beschäftigtenvertretung früh einzubinden. Arbeitsrechtlich kommen zwei Vorschriften des Betriebsverfassungsgesetzes regelmäßig ins Spiel: Nach § 90 Abs. 1 Nr. 3 BetrVG ist der Betriebsrat über die Planung von Arbeitsverfahren und Arbeitsabläufen einschließlich des Einsatzes von künstlicher Intelligenz zu unterrichten. Nach § 87 Abs. 1 Nr. 6 BetrVG bestimmt er mit, wenn technische Einrichtungen eingeführt werden, die dazu bestimmt sind, Verhalten oder Leistung der Arbeitnehmer zu überwachen. Ob ein KI-Werkzeug darunter fällt, hängt von der Ausgestaltung ab, etwa von personenbezogenen Nutzungsprotokollen. Eine Betriebsvereinbarung schafft hier Klarheit. Die KI-Verordnung verlangt zudem, dass Arbeitnehmervertreter und betroffene Beschäftigte informiert werden, bevor ein Hochrisiko-System am Arbeitsplatz in Betrieb geht.

KI-Verordnung für Unternehmen: Risikoklassen und Rollen

Die KI-Verordnung (Verordnung (EU) 2024/1689) ordnet KI-Systeme in vier Stufen. Bestimmte Praktiken sind verboten, zum Beispiel Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen außerhalb medizinischer oder sicherheitsbezogener Zwecke. Hochrisiko-Systeme sind unter anderem solche für Personalauswahl und Personalführung, Bildung, den Zugang zu wesentlichen Diensten wie Krediten, kritische Infrastruktur und Strafverfolgung. Eine dritte Stufe bringt Transparenzpflichten. Alles Übrige, darunter die meisten internen Assistenten für Texte, Suche und Code, unterliegt keinen besonderen Pflichten über die allgemeinen hinaus.

Die Verordnung trennt den Anbieter, der ein System entwickelt oder unter eigenem Namen in Verkehr bringt, vom Betreiber, der es verwendet. Wer ein Modell per API einbindet, ist in der Regel Betreiber. Zwei Pflichten treffen jeden Betreiber: die Verbote und die KI-Kompetenz nach Art. 4, die seit der Änderung 2026 Maßnahmen zur Förderung der KI-Kompetenz des Personals verlangt. Bei Hochrisiko-Systemen kommen nach Art. 26 hinzu: Verwendung gemäß Betriebsanleitung, menschliche Aufsicht durch kompetente Personen, Überwachung, Aufbewahrung der Protokolle für mindestens sechs Monate und Information der Betroffenen. Die Pflichten für KI-Modelle mit allgemeinem Verwendungszweck gelten seit August 2025 und liegen bei den Modellanbietern.

Wer einen eigenen Chatbot für Kunden baut und unter eigenem Namen anbietet, kann als Anbieter dieses Systems gelten. In jedem Fall ist die Regel aus Art. 50 einzuplanen: Menschen müssen erfahren, dass sie mit einer KI sprechen, sofern das nicht offensichtlich ist.

Zeitplan der KI-Verordnung, Stand November 2026

  • 1. August 2024: Inkrafttreten.
  • 2. Februar 2025: Verbote und KI-Kompetenz gelten.
  • 2. August 2025: Governance-Regeln und Pflichten für KI-Modelle mit allgemeinem Verwendungszweck gelten.
  • 2. August 2026: allgemeine Geltung, einschließlich der Transparenzpflichten nach Art. 50.
  • 2. Dezember 2026: Generative Systeme, die vor dem 2. August 2026 in Verkehr gebracht wurden, müssen die Kennzeichnungspflicht für KI-erzeugte Inhalte erfüllen; die neuen Verbote zu nicht einvernehmlichen sexuellen Deepfakes und Darstellungen sexuellen Kindesmissbrauchs gelten.
  • 2. Dezember 2027: Hochrisiko-Pflichten für Systeme nach Anhang III (zuvor 2. August 2026).
  • 2. August 2028: Hochrisiko-Pflichten für KI in regulierten Produkten (zuvor 2. August 2027).

Die letzten drei Termine stammen aus der Verordnung (EU) 2026/1744, unterzeichnet am 8. Juli 2026 und seit dem 27. Juli 2026 in Kraft. Vorschläge zur Änderung der DSGVO selbst befanden sich bei Redaktionsschluss noch im Gesetzgebungsverfahren; dieser Beitrag beschreibt das geltende Recht. Die Bußgelder der KI-Verordnung reichen bis 35 Mio. Euro oder 7 % des weltweiten Jahresumsatzes bei verbotenen Praktiken und bis 15 Mio. Euro oder 3 % bei Verstößen gegen Betreiber- und Transparenzpflichten. Der obere Rahmen der DSGVO liegt bei 20 Mio. Euro oder 4 %.

Wie die Architektur die rechtliche Last verringert

  • Region: EU-Verarbeitung wählen, wo der Anbieter sie anbietet.
  • Speicherung: Optionen ohne oder mit kurzer Speicherung nutzen, wo sie angeboten werden und der Anwendungsfall dafür in Frage kommt.
  • Pseudonymisierung vor dem Prompt: Namen und Nummern durch Platzhalter ersetzen und im eigenen System zurückführen.
  • Berechtigungen im Abruf: Das Modell sieht nur, was die fragende Person sehen darf.
  • Datengrenzen: festlegen, welche Datenklassen an ein gehostetes Modell gehen dürfen und welche intern bleiben, und das in einem Gateway technisch durchsetzen.
  • Lokale Modelle: Ein Open-Weight-Modell auf eigenen Servern kommt ohne externen Auftragsverarbeiter und ohne Transfer aus. Mehr dazu im Leitfaden für lokale LLMs und unter lokale KI auf eigenen Servern.

Häufige Fehler

  • Beschäftigte kopieren Kunden- oder Personaldaten in öffentliche Chatbots mit privaten Accounts.
  • Eine Modell-API wird ohne AVV genutzt.
  • Prompts und Antworten mit Personenbezug werden ohne Löschfrist protokolliert.
  • Der KI-Einsatz fehlt im Verzeichnis von Verarbeitungstätigkeiten und in den Datenschutzhinweisen.
  • Die DSFA-Frage wird erst nach dem Go-live gestellt.
  • Der Betriebsrat erfährt von dem Werkzeug erst nach der Einführung.

Checkliste für ein KI-Projekt

  • Datenflüsse erfasst: Prompts, abgerufener Kontext, Ausgaben, Protokolle
  • Rechtsgrundlage und Zweck je Anwendungsfall dokumentiert
  • AVV geschlossen; Trainingsnutzung, Speicherdauer und Unterauftragsverarbeiter geprüft
  • Transfergrundlage vorhanden oder reine EU-Verarbeitung bestätigt
  • DSFA-Vorprüfung durchgeführt und dokumentiert
  • Minimierung und Pseudonymisierung vor dem Prompt umgesetzt
  • Löschfrist für Protokolle gesetzt; Löschweg getestet
  • Verarbeitungsverzeichnis und Datenschutzhinweise aktualisiert
  • Rolle und Risikoklasse nach KI-Verordnung bestimmt; Personal geschult
  • Betriebsrat unterrichtet; Nutzungsregeln für KI-Werkzeuge vereinbart

Häufige Fragen

Ist ChatGPT im Unternehmen DSGVO-konform nutzbar?
Das ist möglich. Die DSGVO verbietet kein Modell. Nötig sind eine Rechtsgrundlage für die verarbeiteten personenbezogenen Daten, ein Auftragsverarbeitungsvertrag mit dem Anbieter, eine Grundlage für Drittlandtransfers und eine Löschfrist für Prompts und Protokolle. Ein privat genutzter Verbraucher-Account erfüllt nichts davon.

Brauchen wir für KI eine Datenschutz-Folgenabschätzung?
Ja, wenn die Verarbeitung voraussichtlich ein hohes Risiko für Betroffene mit sich bringt, etwa bei systematischer Bewertung von Personen, Beschäftigtenüberwachung oder besonderen Datenkategorien in großem Umfang. Dokumentieren Sie die Vorprüfung in jedem Fall.

Gilt die KI-Verordnung auch, wenn wir KI nur über eine API nutzen?
Ja, als Betreiber. Die Verbote und die Pflicht zur KI-Kompetenz gelten für jeden Betreiber. Die umfangreicheren Pflichten greifen nur bei Hochrisiko-Einsatz, etwa im Recruiting oder bei der Kreditwürdigkeitsprüfung. Die Pflichten für KI-Modelle mit allgemeinem Verwendungszweck treffen den Modellanbieter.

Ab wann gelten die Hochrisiko-Pflichten der KI-Verordnung?
Die Verordnung (EU) 2026/1744 hat die Termine verschoben. Für Hochrisiko-Systeme nach Anhang III, etwa im Personalbereich, gelten die Pflichten ab dem 2. Dezember 2027, für KI in regulierten Produkten ab dem 2. August 2028.

Muss der Betriebsrat bei der Einführung von KI beteiligt werden?
In vielen Fällen ja. Der Arbeitgeber muss den Betriebsrat über die Planung von Arbeitsverfahren einschließlich des Einsatzes von KI unterrichten. Ein Mitbestimmungsrecht besteht bei technischen Einrichtungen, die zur Überwachung von Verhalten oder Leistung bestimmt sind. Der Einzelfall gehört in die arbeitsrechtliche Prüfung.

Fazit

DSGVO und KI passen zusammen, wenn die Datenflüsse bekannt sind, das Verhältnis zum Anbieter vertraglich geregelt ist und die Architektur personenbezogene Daten auf das Nötige begrenzt. Die KI-Verordnung fügt eine Prüfung von Rolle und Risikoklasse hinzu, die interne Assistenten meist schnell bestehen, Anwendungen im Personal- oder Kreditbereich dagegen nicht. Dieser Beitrag ist eine allgemeine Information und keine Rechtsberatung.

Sie planen eine KI-Integration? Graf Clouds ist ein Engineering-Unternehmen, keine Kanzlei. Wir binden gehostete Modelle wie Anthropic Claude und OpenAI mit festgelegten Grenzen dafür ein, was das Netzwerk verlassen darf, und betreiben Open-Weight-Modelle auf den Servern unserer Kunden, wenn Daten im Haus bleiben müssen. Die Anforderungen legen Ihre Datenschutzbeauftragten und Juristen fest; wir setzen sie technisch um. Mehr unter KI-Integration, im Leitfaden zur KI-Integration im Unternehmen oder direkt über den Kontakt.

Quellen