DSGVO-konforme KI-Nutzung: eine Übersicht

„Dürfen wir ChatGPT überhaupt nutzen?” ist eine der häufigsten Fragen, die mir Geschäftsführer stellen. Die ehrliche Antwort lautet: Es kommt darauf an — und zwar fast ausschließlich darauf, welche Daten in die KI hineingegeben werden, nicht darauf, welches Tool verwendet wird.

Die gute Nachricht: Die DSGVO-Frage lässt sich sauber anhand von drei Datenkategorien beantworten. Die schlechte Nachricht: Viele Unternehmen wissen gar nicht, in welche Kategorie ihre tägliche KI-Nutzung eigentlich fällt — weil Mitarbeitende unbedacht Namen, Kundendaten oder interne Dokumente in einen Prompt tippen, ohne das als Datenschutzvorgang zu erkennen.

Wichtiger Hinweis vorab: Private Zugänge zu KI-Systemen sind in der Regel mit niedrigen oder gar keinen vertraglichen Schutzmechanismen ausgestattet und sollten unabhängig von allen DSGVO-Fragen nie im professionellen Umfeld verwendet werden. Bei privaten Accounts ist meist nicht sichergestellt, dass Eingaben nicht zum Training der Modelle weiterverwendet werden. Bei professionellen Business- oder Enterprise-Accounts ist das in der Regel vertraglich ausgeschlossen — das muss aber im Einzelfall geprüft werden, statt es einfach anzunehmen.

Kategorie 1: Keine personenbezogenen Daten

Wenn in der Eingabe an eine KI keine Informationen über eine identifizierbare Person enthalten sind, ist die DSGVO schlicht nicht anwendbar. Das Unternehmen kann frei entscheiden, welches Tool es nutzt.

Beispiele für unproblematische Anwendungsfälle:

• Interne Unternehmensdokumente wie Monatsabschlüsse, Umsatzauswertungen nach Produktgruppen oder Budgetplanungen enthalten keine personenbezogenen Daten und unterliegen deshalb keinen datenschutzrechtlichen Vorgaben. Ob ein Unternehmen sie trotzdem in eine KI hochladen möchte, ist keine Rechtsfrage, sondern eine unternehmerische Entscheidung über Geschäftsgeheimnisse und Vertraulichkeit — der Gesetzgeber macht hier keine Vorgabe.
• Strategiepapiere und Konzepte ohne Namensnennung, etwa eine Marktanalyse, ein Produktkonzept oder eine interne Prozessbeschreibung, lassen sich ebenso unbedenklich mit KI bearbeiten, solange sie anonymisiert bleiben.
• Programmcode ohne eingebettete Kundendaten, Zugangsdaten oder personenbezogene Testdatensätze fällt ebenfalls nicht unter die DSGVO — hier lohnt sich aber ein zweiter Blick, da Entwickler gerne reale Datensätze zu Testzwecken verwenden.
• Allgemeine Markt- und Rechercheanfragen ohne Firmen- oder Personenbezug, etwa zu Branchentrends, Wettbewerbslandschaften oder regulatorischen Entwicklungen, sind grundsätzlich unproblematisch.

Wichtig ist die Betonung auf „identifizierbar”. Ein Text über „einen Kunden aus der Baubranche mit 50 Mitarbeitenden” ist in der Regel unkritisch — sobald aber Name, E-Mail-Adresse oder eine eindeutig zuordenbare Kombination von Merkmalen auftaucht, wechselt der Fall in Kategorie 2. Das gilt auch für Pseudonyme: Wird etwa „Kunde 4711” oder „Mitarbeiter A” verwendet, aber an anderer Stelle im Unternehmen eine Zuordnungstabelle zur realen Person existiert, bleibt die Person identifizierbar — Pseudonymisierung mindert das Risiko, hebt den Personenbezug aber nicht auf. Auch pseudonymisierte Daten fallen deshalb unter Kategorie 2.

Kategorie 2: Personenbezogene Daten (ohne besondere Kategorien)

Sobald Namen, E-Mail-Adressen, Kundennummern, Gehaltsdaten oder ähnliche personenbezogene Informationen in die KI eingegeben werden, greift die DSGVO — und damit zwei zentrale Anforderungen:

Auftragsverarbeitungsvertrag (AVV). Der LLM-Anbieter verarbeitet die Daten im Auftrag des Unternehmens. Dafür braucht es einen Vertrag nach Art. 28 DSGVO, der Zweck, Umfang, Löschfristen und technische Schutzmaßnahmen regelt. Die meisten großen Anbieter (Microsoft, OpenAI, Google) bieten solche AVVs für ihre Business- und Enterprise-Produkte an — nicht jedoch automatisch für kostenlose Consumer-Versionen.

Datenschutz-Folgenabschätzung (DSFA). Bei KI-gestützter Verarbeitung ist häufig eine DSFA nach Art. 35 DSGVO erforderlich, insbesondere wenn systematisch und umfangreich personenbezogene Daten verarbeitet werden oder ein hohes Risiko für die Rechte Betroffener besteht. Die DSFA dokumentiert Risiken und Schutzmaßnahmen — und ist im Streitfall der Nachweis, dass sich das Unternehmen ernsthaft mit den Konsequenzen auseinandergesetzt hat.

Zusätzlich braucht es eine gültige Rechtsgrundlage nach Art. 6 DSGVO — meist berechtigtes Interesse oder Vertragserfüllung, je nach Anwendungsfall.

Wo dürfen die Daten verarbeitet werden? Die DSGVO schreibt hier keinen bestimmten Verarbeitungsort vor. Sie verlangt lediglich, dass bei einer Übermittlung in Drittländer — etwa in die USA — ein gültiger Transfermechanismus vorliegt: ein Angemessenheitsbeschluss (aktuell das EU-US Data Privacy Framework) oder Standardvertragsklauseln in Kombination mit dem AVV. Verarbeitung außerhalb der EU ist also grundsätzlich zulässig, solange diese vertragliche Absicherung besteht — ein Hosting in Deutschland oder der EU ist für diese Kategorie keine gesetzliche Pflicht.

Kategorie 3: Besondere Kategorien personenbezogener Daten

Gesundheitsdaten, biometrische Daten, Daten zu religiöser oder politischer Überzeugung, sexueller Orientierung oder Gewerkschaftszugehörigkeit fallen unter Art. 9 DSGVO — und damit unter deutlich strengere Regeln, auch wenn das Drittlandtransfer-Regime formal identisch zu Kategorie 2 bleibt.

Hier reichen AVV und DSFA allein nicht aus. Zusätzlich empfehlenswert, auch wenn nicht in jedem Fall explizit gesetzlich vorgeschrieben:

• Hosting in Deutschland oder der EU, um Drittlandtransfers und die damit verbundenen zusätzlichen rechtlichen Hürden zu vermeiden
• Zero Data Retention, also die vertragliche Zusicherung, dass der Anbieter die Eingaben nicht speichert, geschweige denn zu Trainingszwecken nutzt
• Häufig eine explizite Einwilligung der betroffenen Person, da die übrigen Rechtsgrundlagen für besondere Kategorien meist nicht ausreichen

In der Praxis bedeutet das: Ein Krankenhaus, das KI zur Auswertung von Patientendaten nutzen will, braucht einen fundamental anderen technischen und vertraglichen Rahmen als ein Handwerksbetrieb, der KI für Angebotstexte einsetzt.

Was in der Praxis oft übersehen wird

Die Prompt-Falle. Das größte Risiko liegt selten in der bewussten Entscheidung, sondern im Alltag: Ein Mitarbeitender kopiert eine Kunden-E-Mail komplett in ChatGPT, um eine Antwort zu formulieren — und übermittelt damit unbemerkt personenbezogene Daten an einen US-Anbieter. Ohne Schulung und klare Guidelines passiert das ständig, meist ohne böse Absicht.

Trainingsdaten-Klausel prüfen. Manche kostenlose oder private KI-Tarife nutzen Eingaben standardmäßig zum Training der Modelle. Das ist datenschutzrechtlich etwas anderes als reine Auftragsverarbeitung — der Anbieter wird dann faktisch zum eigenständigen Verantwortlichen. Für den Unternehmenseinsatz sind deshalb ausschließlich Business- oder API-Tarife mit vertraglich ausgeschlossener Trainingsdatennutzung geeignet.

Drittlandtransfer in die USA. Die meisten großen KI-Anbieter verarbeiten Daten (auch) in den USA. Seit dem EU-US Data Privacy Framework ist das rechtlich handhabbar, aber vertraglich muss es sauber abgesichert sein — etwa über Standardvertragsklauseln, wenn kein Angemessenheitsbeschluss greift.

Automatisierte Entscheidungen. Trifft die KI eine Entscheidung mit rechtlicher Wirkung für eine Person — etwa eine automatische Bewerbungsabsage —, greift Art. 22 DSGVO. Betroffene haben dann das Recht auf menschliches Eingreifen und eine Erklärung der Entscheidung. Rein unterstützende KI-Nutzung, bei der ein Mensch die finale Entscheidung trifft, ist unkritischer.

Mitbestimmung des Betriebsrats. Bei Unternehmen mit Betriebsrat ist die Einführung von KI-Tools häufig mitbestimmungspflichtig nach § 87 BetrVG, insbesondere wenn Leistungs- oder Verhaltenskontrolle möglich ist. Das ist kein DSGVO-Thema im engeren Sinne, aber ein Compliance-Aspekt, der bei der Einführung oft zu spät bedacht wird.

Fazit: Klarheit schlägt Verbot

Die häufigste Reaktion von Unternehmen auf diese Komplexität ist ein pauschales Verbot — „KI-Nutzung ist bei uns nicht erlaubt”. Das ist selten die richtige Antwort. Es verhindert nicht die Nutzung, sondern verlagert sie ins Verborgene: Mitarbeitende nutzen private Accounts auf privaten Geräten, ohne jede Kontrolle und ohne jeden Vertrag.

Der bessere Weg ist Klarheit: eine einfache interne Richtlinie, die festlegt, welche Datenkategorien mit welchem Tool verarbeitet werden dürfen, welche AVVs bestehen und wo die Grenzen liegen. Das schützt das Unternehmen — und ermöglicht gleichzeitig, dass KI produktiv genutzt wird, statt im Verborgenen zu passieren.