KI und Datenschutz: Wo landen die Unternehmensdaten? Vier Fragen

Was passiert mit Unternehmensdaten, wenn KI mit ihnen arbeitet?

Die Daten durchlaufen zwei Stellen: das System des Anbieters und den Modellanbieter. Zum System des Anbieters gehören Server, Datenbank, Backups und Protokolle; wo sie stehen, entscheidet der Anbieter. An den Modellanbieter schickt das System den Text, den die Aufgabe braucht, und bekommt die Antwort zurück; dort entscheiden die Bedingungen des Modellanbieters.

Ein Modellanbieter ist ein Unternehmen, das das Sprachmodell betreibt, zum Beispiel Anthropic (Claude), Google (Gemini) oder OpenAI (GPT). Eine API ist eine Verbindung zwischen zwei Programmen, über die Anfrage und Antwort laufen. In unseren ersten Gesprächen ist das eine der häufigsten Fragen, und zu Recht: Auf einer Rechnung oder in einer Kundenmail stehen fast immer personenbezogene Daten.

Was unterscheidet einen kostenlosen Chat vom Geschäftszugang?

Der Unterschied ist, ob der Anbieter sein Modell mit dem eingegebenen Text trainieren darf. Bei Einzeltarifen hängt das meist von der Einstellung des Nutzers ab, beim Geschäfts- und API-Zugang trainieren die großen Anbieter standardmäßig nicht mit Unternehmensdaten.

• Anthropic: Laut seinem Privacy Center trainiert Anthropic in den Tarifen Claude Free, Pro und Max mit den Unterhaltungen, wenn der Nutzer das in den Einstellungen erlaubt (mit einigen Ausnahmen, etwa bei Sicherheitsprüfungen). Bei Geschäftsprodukten, also auch bei der API, standardmäßig nicht.
• OpenAI: Laut Hilfecenter können Inhalte in Einzeldiensten wie ChatGPT für das Training verwendet werden; das lässt sich in den Einstellungen abschalten. Mit Daten aus ChatGPT Business, Enterprise und der API wird standardmäßig nicht trainiert.
• Google: Laut den Bedingungen der Gemini API nutzt Google im kostenpflichtigen Dienst Anfragen und Antworten nicht zur Verbesserung seiner Produkte, im kostenlosen schon. Im Europäischen Wirtschaftsraum, in der Schweiz und im Vereinigten Königreich gelten die Datenregeln des kostenpflichtigen Dienstes allerdings auch für die kostenlose Gemini API und Google AI Studio.

Unsere Meinung dazu ist einfach: Unternehmensdaten gehören nicht in die privaten, kostenlosen Chat-Konten der Mitarbeitenden, sondern in ein Werkzeug, das zu Geschäftsbedingungen genutzt wird.

Die Tabelle beruht auf den Seiten der Anbieter, wie sie im Oktober 2026 verfügbar waren; die Bedingungen können sich ändern.

Bewahrt der Modellanbieter die Daten auf oder löscht er sie?

In der Standardeinstellung bewahrt er sie eine Zeit lang auf. Wie lange, hängt vom Anbieter, von der genutzten Funktion und vom Vertrag ab. Kein Training und Löschung sind zwei getrennte Fragen: Ein Anbieter kann Daten auch ohne Training speichern.

Anthropic löscht API-Anfragen und -Antworten automatisch innerhalb von 30 Tagen, OpenAI bewahrt die Protokolle zur Missbrauchsüberwachung bis zu 30 Tage auf. Beide bieten Zero Data Retention an, also keine Datenspeicherung, aber nur nach Freigabe und nur für berechtigte API-Funktionen. Laut Anthropic speichert der Anbieter Anfrage und Antwort dann nicht, außer es ist gesetzlich oder zur Aufklärung von Missbrauch nötig.

Die Frage an den Anbieter lautet also: Welches Modell nutzen Sie, zu welchen Aufbewahrungsbedingungen, und wo ist das festgehalten?

Wo läuft und speichert das System?

Fragen Sie nach zwei Orten: wo der Server des Anbieters steht, samt Backups und Protokollen, und wo das Modell die Anfrage verarbeitet. Das Erste entscheidet der Anbieter, das Zweite der Modellanbieter und die gewählte Einstellung.

Auch in Protokollen stehen Daten, fragen Sie also, was hineinkommt und wie lange sie aufbewahrt werden. Gelangen personenbezogene Daten aus der Europäischen Union hinaus, gelten die Übermittlungsregeln der DSGVO (Kapitel V, ab Artikel 44). Es gibt inzwischen eine Wahl: OpenAI bietet berechtigten Kunden seit Februar 2025 für manche API-Projekte eine Datenverarbeitung in Europa an. Eine gute Antwort nennt ein Land, nicht nur „in der Cloud“.

Wer sind die Subunternehmer, und warum ist das wichtig?

Ein Subunternehmer (in der Sprache der DSGVO ein weiterer Auftragsverarbeiter) ist ein Unternehmen, das im Auftrag des Anbieters Zugriff auf die Daten hat: der Hosting-Anbieter, der Modellanbieter, ein E-Mail- oder ein Monitoring-Dienst. Nach Artikel 28 Absatz 2 DSGVO darf der Anbieter einen solchen nur mit vorheriger schriftlicher Genehmigung des Unternehmens als Verantwortlichem hinzuziehen. Bei einer allgemeinen Genehmigung muss er Änderungen vorab mitteilen, damit das Unternehmen widersprechen kann.

Verlangen Sie eine Liste: Name, Aufgabe, Land. Nach Artikel 28 Absatz 4 müssen dem Subunternehmer vertraglich dieselben Datenschutzpflichten auferlegt werden, und erfüllt er sie nicht, haftet der Anbieter voll dafür.

Braucht es einen Auftragsverarbeitungsvertrag?

Ja, wenn der Anbieter im Auftrag des Unternehmens personenbezogene Daten verarbeitet. Nach Artikel 28 Absatz 3 DSGVO wird die Verarbeitung durch einen Vertrag (oder ein anderes Rechtsinstrument) geregelt. Der Auftragsverarbeitungsvertrag (AVV, englisch DPA) legt fest, was der Anbieter mit den Daten tun darf und was nicht.

Laut Verordnung steht darin unter anderem, dass der Anbieter die Daten nur auf dokumentierte Weisung des Unternehmens verarbeitet, wen er hinzuzieht, dass er Überprüfungen (Audits) ermöglicht und dass er die Daten am Vertragsende löscht oder zurückgibt. Auch die Modellanbieter haben solche Verträge: Der Zusatz zur Datenverarbeitung von Anthropic ist Teil der kommerziellen Bedingungen, OpenAI schließt auf Anfrage einen ab. Diese gelten zwischen Anbieter und Modellanbieter; das Unternehmen braucht einen eigenen Vertrag mit seinem Anbieter.

Die vier Fragen zum KI-Datenschutz: Was Sie Ihren Anbieter fragen sollten

1. 01

   Wo läuft und speichert das System? Ein Land für Server, Backups und Protokolle und getrennt davon für die Verarbeitung durch das Modell.

2. 02

   Bewahrt der Modellanbieter die Daten auf oder löscht er sie? Welches Modell, zu welchen Bedingungen, ob damit trainiert wird, wie lange gespeichert wird und ob es Zero Data Retention gibt.

3. 03

   Wer sind die Subunternehmer? Name, Aufgabe, Land, und wie Sie informiert werden, wenn sich die Liste ändert.

4. 04

   Gibt es einen Auftragsverarbeitungsvertrag? Enthält er die Löschung am Vertragsende, das Prüfrecht und die Liste der Subunternehmer?

Verlangen Sie die Antworten schriftlich. Wenn ein Anbieter darauf keine klaren Antworten geben kann, ist auch das eine Antwort.

Was heißt das für ein Unternehmen mit 10 bis 250 Personen?

Dafür braucht es keine Rechtsabteilung. Die vier Fragen und die schriftlichen Antworten reichen als Grundlage für die Entscheidung, den Vertrag sollten Sie juristisch prüfen lassen.

Zwei Dinge würden wir zuerst tun. Legen Sie fest, in welches KI-Werkzeug und mit welchem Konto Unternehmensdaten gelangen dürfen; private, kostenlose Chat-Konten der Mitarbeitenden gehören nicht dazu. Und prüfen Sie bei jeder Automatisierung, welche Daten durch das System laufen, bevor es live geht.

So bauen wir KI-Automatisierung: Wir betreiben die Systeme in Ungarn, Deutschland oder Finnland und nutzen die Modelle von Anthropic, Google und OpenAI zu Bedingungen, unter denen der Anbieter die Daten nicht speichert. Prüfregeln laufen mit, jeder Schritt wird protokolliert, und wo Geld oder Kunden betroffen sind, gibt ein Mensch den Vorgang frei. Die Details beschreiben wir auf unserer Datenschutzseite.

Dies ist eine allgemeine Information, keine Rechtsberatung.