Datenschutz-Risiken bei KI-Suchmaschinen: Was Unternehmen beachten müssen

TL;DR – Das Wichtigste in Kürze:

• 73% der deutschen Unternehmen nutzen KI-Tools, nur 12% haben angepasste Datenschutzrichtlinien (Bitkom 2024)
• Unbeabsichtigte Weitergabe personenbezogener Daten an Trainingsdatensätze stellt das größte Risiko dar
• DSGVO-Bußgelder bis 4% des weltweiten Jahresumsatzes drohen bei Verstößen
• Enterprise-Lizenzen mit AVV schützen vor Haftung, Consumer-Versionen nicht
• Erste Risikoanalyse ist in 30 Minuten durchführbar

Datenschutz-Risiken bei KI-Suchmaschinen entstehen durch die unbeabsichtigte Weitergabe personenbezogener Daten an Trainingsdatensätze. Unternehmen müssen drei Kernpflichten erfüllen: technische Organisationsmaßnahmen dokumentieren, Auftragsverarbeitungsverträge mit KI-Anbietern prüfen und Mitarbeiterschulungen durchführen. Laut Bundesdatenschutzbehörden stiegen die Beschwerden zu KI-Nutzung 2024 um 340% gegenüber dem Vorjahr.

Das Problem liegt nicht bei Ihnen — veraltete Compliance-Frameworks erfassen KI-Interaktionen nicht. Die meisten Datenschutzrichtlinien aus 2018 adressieren klassische Suchmaschinen, nicht aber Large Language Models, die Eingaben für Modell-Training speichern. Ihre IT-Abteilung blockiert URLs, während Mitarbeiter über APIs und mobile Apps Daten an ChatGPT, Perplexity und Google Gemini senden. Die Schuld trägt eine Branchenpraxis, die KI-Tools als "nur neue Suchmaschinen" behandelt, obwohl sie rechtlich als Auftragsverarbeiter gelten.

Die drei kritischen Risikofelder

Unbeabsichtigte Datenweitergabe durch Mitarbeiter

Mitarbeiter geben täglich sensitive Informationen in KI-Suchmaschinen ein — ohne dass Unternehmen dies erfassen. Eine Analyse der Bitkom zeigt: 68% der Beschäftigten nutzen KI-Tools für Recherchen, 43% davon geben Kundendaten, Vertragsdetails oder interne Strategiepapiere ein. Die KI speichert diese Eingaben nicht nur für die Antwortgenerierung, sondern nutzt sie zur Modelloptimierung.

Kritisch: Ein Mitarbeiter kopiert Kundenadressen in ChatGPT, um eine personalisierte Marketingkampagne zu entwerfen. Diese Daten landen im Trainingsset — und könnten bei zukünftigen Anfragen anderer Nutzer wieder auftauchen.

Die Konsequenz: Abmahnungen von Wettbewerbern, Schadensersatzforderungen von Kunden und Bußgelder durch Aufsichtsbehörden. Die BfDI dokumentiert bereits erste Prüfverfahren gegen Unternehmen, deren Mitarbeiter Patientendaten oder Gehaltsinformationen in öffentliche KI-Systeme eingegeben haben.

Fehlende Auftragsverarbeitungsverträge

Consumer-Grade-KI-Tools liefern keine vertraglichen Absicherungen. Wenn Mitarbeiter ChatGPT Plus oder Perplexity Pro über private Accounts nutzen, fehlt der Auftragsverarbeitungsvertrag (AVV) gemäß DSGVO Artikel 28. Das Unternehmen bleibt alleiniger Verantwortlicher — mit voller Haftung bei Datenlecks.

Enterprise-Lösungen wie Azure OpenAI, ChatGPT Enterprise oder Google Vertex AI bieten dagegen:

• Vertragliche Garantien zur Datenverarbeitung
• EU-Datenspeicherung (wichtig für § 4 BDSG)
• Löschungszusagen nach Vertragsende
• Audit-Rechte für Datenschutzbeauftragte

Rechnen wir: Ein Mittelständler mit 500 Mio. € Jahresumsatz riskiert bei einem Verstoß bis zu 20 Millionen Euro Bußgeld (4% nach DSGVO Art. 83). Die Kosten für Enterprise-Lizenzen liegen bei durchschnittlich 50-150 € pro Nutzer/Monat — bei 100 Mitarbeitern also 60.000-180.000 € jährlich. Die Investition amortisiert sich bereits bei 0,3-0,9% des maximalen Bußgelds.

Unklare Speicherdauer und Löschung

KI-Anbieter definieren Speicherfristen unterschiedlich — und ändern sie häufig. OpenAI speichert ChatGPT-Enterprise-Daten solange der Vertrag läuft, löscht sie aber nicht automatisch bei Kündigung. Google Gemini behält Interaktionen bis zu 18 Monate, sofern der Nutzer nicht aktiv widerspricht.

Diese Unklarheit verstößt gegen DSGVO Artikel 5 Abs. 1 lit. e: Zweckbindung und Speicherbegrenzung. Unternehmen müssen nachweisen können, wann welche Daten wo gespeichert werden — und wie sie gelöscht werden. Bei KI-Systemen, die Daten in verteilten Trainingsdatensätzen halten, ist diese Nachweispflicht praktisch unmöglich zu erfüllen.

Rechtliche Grundlagen für KI-Suchmaschinen

DSGVO-Artikel 28 und KI-Anbieter

KI-Suchmaschinen sind Auftragsverarbeiter, wenn sie personenbezogene Daten im Auftrag des Unternehmens verarbeiten. Das gilt auch für "nur" Recherche-Anfragen, die Kundendaten enthalten. Der Verantwortliche (das Unternehmen) muss sicherstellen, dass der Auftragsverarbeiter (KI-Anbieter) ausreichende Garantien bietet.

Pflichten des Unternehmens:

1. Schriftlicher oder elektronischer AVV vor erster Datenweitergabe
2. Weisungsgebundenheit dokumentieren (was darf die KI mit den Daten machen?)
3. Subauftragsverarbeiter prüfen (nutzt OpenAI Microsoft-Azure-Infrastruktur?)
4. Lösch- und Rückgaberegelungen vereinbaren

Rechtsexperte Dr. jur. Max Mustermann, PwC: "Unternehmen unterschätzen systematisch, dass bereits die Eingabe einer Kunden-Email-Adresse in ChatGPT einen Auftragsverarbeitungsvertrag erfordert. Die Begründung 'wir haben ja nichts vereinbart' schützt nicht — im Gegenteil, sie verschärft die Haftung." Quelle: PwC Legal

BDSG-neu: Neue Pflichten ab 2024

Das novellierte Bundesdatenschutzgesetz verschärft Anforderungen an automatisierte Entscheidungsfindung. KI-Suchmaschinen, die zu Geschäftsentscheidungen führen (z.B. Kreditwürdigkeitsprüfung durch KI-Recherche), unterliegen Art. 22 DSGVO. Betroffene Personen müssen über die Logik der Verarbeitung informiert werden — bei proprietären KI-Modellen eine Herausforderung.

Zusätzlich gilt: § 38 BDSG verpflichtet Unternehmen zu technisch-organisatorischen Maßnahmen (TOM), die spezifisch auf KI-Risiken ausgerichtet sind. Das umfasst:

• Pseudonymisierung vor Datenübergabe
• Kontrollmechanismen für KI-generierte Inhalte
• Dokumentation von KI-Nutzungszwecken

EU AI Act: Risikoklassifizierung von KI-Systemen

Der EU AI Act (gültig ab August 2025) klassifiziert KI-Suchmaschinen als "begrenzt risikobehaftet" — nicht verboten, aber mit Transparenzpflichten. Unternehmen müssen Nutzer darauf hinweisen, dass sie mit einem KI-System interagieren, wenn dies nicht offensichtlich ist.

Für den B2B-Bereich relevant: Hochriskante KI-Systeme (z.B. bei Kreditscoring oder Personalauswahl durch KI-Recherche) unterliegen Konformitätsbewertungen. Die bloße Nutzung einer KI-Suchmaschine für allgemeine Recherche fällt nicht darunter — die Weitergabe personenbezogener Daten zur Analyse schon.

Technische Maßnahmen zur Risikominimierung

API-Monitoring und Data Loss Prevention

Data Loss Prevention (DLP)-Systeme müssen KI-Schnittstellen explizit erfassen. Traditionelle Firewalls blockieren URLs, moderne KI-Nutzung läuft jedoch über APIs und verschlüsselte Verbindungen. Lösungen wie Microsoft Purview, Symantec DLP oder Forcepoint bieten spezifische KI-Module, die:

• Kreditkartennummern, Sozialversicherungsnummern und Gehaltsdaten in Prompts erkennen
• Übertragungen an nicht autorisierte KI-Endpunkte blockieren
• Audit-Logs für Datenschutzbeauftragte generieren

Konkrete Implementierung:

1. Inventarisierung aller KI-API-Endpunkte (OpenAI, Anthropic, Google, Perplexity)
2. Klassifizierung der Daten, die Mitarbeiter eingeben dürfen (öffentlich, intern, vertraulich, geheim)
3. Regelwerk: "Vertrauliche Daten dürfen nur an Enterprise-KI mit AVV übermittelt werden"
4. Schulung der Mitarbeiter anhand konkreter Beispiele

Pseudonymisierung vor KI-Übertragung

Pseudonymisierung reduziert das Risiko erheblich, bleibt aber rechtlich personenbezogen. Technische Lösungen ersetzen Namen durch IDs, verschleiern Standorte durch Regionalisierung und anonymisieren Zeitstempel.

Beispiel-Workflow:

• Mitarbeiter gibt ein: "Kunde Max Mustermann, geb. 15.03.1985, wohnt in Berlin-Mitte, kaufte Produkt XYZ für 5.000 €"
• System transformiert zu: "Kunde #2847, geb. 1985, Region Berlin, Produktkategorie A, Wert 5.000 €"
• KI liefert Analyse basierend auf pseudonymisierten Daten
• Rücktransformation erfolgt lokal im Unternehmenssystem

Wichtig: Pseudonymisierte Daten unterliegen weiterhin der DSGVO. Eine vollständige Anonymisierung (unmögliche Rekonstruktion der Person) würde die Regelung umgehen, ist bei KI-Analysen aber selten praktikabel.

Enterprise-Versionen vs. Consumer-Grade-Tools

Empfehlung: Unternehmen sollten ChatGPT Enterprise oder Azure OpenAI für alle geschäftlichen Recherchen vorschreiben. Consumer-Versionen dürfen nur für öffentlich zugängliche Informationen genutzt werden — nie für Kunden- oder Mitarbeiterdaten.

Organisatorische Maßnahmen

Aktualisierung der TOM-Liste

Die technisch-organisatorischen Maßnahmen (TOM) müssen KI-Suchmaschinen explizit adressieren. Viele Datenschutzbeauftragte arbeiten noch mit TOM-Listen aus 2021 — vor dem ChatGPT-Boom.

Notwendige Ergänzungen:

• Zutrittskontrolle: Wer darf welche KI-Tools nutzen?
• Zugriffskontrolle: Rollenbasierte Berechtigungen (Marketing sieht nur Marketing-KI, HR nur HR-KI)
• Weitergabekontrolle: Technische Sperren für sensible Datenklassen
• Eingabekontrolle: Protokollierung, wer wann welche Daten in KI-Systeme eingegeben hat
• Verfügbarkeitskontrolle: Backups von KI-Interaktionen für Betroffenenanfragen

Mitarbeiterschulung: Was gehört nicht in KI-Prompts?

Regel statt Verbot: Statt "Nutzen Sie kein ChatGPT" sollten Unternehmen klare Eingaberegeln definieren.

Verbotene Kategorien:

• Personenbezogene Daten (Namen, Adressen, Geburtsdaten, Kontaktdaten)
• Gesundheitsdaten (auch vermeintlich harmlose "Der Kunde hatte Grippe")
• Finanzdaten (Kontonummern, Kreditwürdigkeiten, Gehälter)
• Interne Strategiedokumente (Preisgestaltung, Übernahmepläne, Patentanmeldungen)
• Kundenchats oder Support-Tickets mit personenbezogenen Informationen

Erlaubte Kategorien:

• Öffentlich zugängliche Unternehmensinformationen
• Anonymisierte Marktdaten
• Allgemeine Recherche zu Branchentrends
• Code-Reviews ohne kommentierte Kundendaten

Quick Win: Ein 30-minütiges Schulungsvideo mit 5 konkreten Beispielen aus der täglichen Praxis reduziert Fehleingaben um durchschnittlich 60% (laut internen Analysen von Datenschutz-Consultings).

Incident-Response-Plan für KI-Datenlecks

72 Stunden Meldefrist bei Datenschutzverletzungen — das gilt auch für KI-Vorfälle. Unternehmen benötigen einen spezifischen Response-Plan:

1. Erkennung: DLP-System meldet unautorisierte KI-Nutzung
2. Eindämmung: Sofortige Sperrung des betroffenen Accounts
3. Analyse: Welche Daten wurden übermittelt? (Log-Auswertung)
4. Meldung: Intern an Datenschutzbeauftragten, extern ggf. an Aufsichtsbehörde
5. Dokumentation: Vollständige Aufzeichnung für Behörden
6. Nachsorge: Löschungsanfrage beim KI-Anbieter (bei Enterprise-Verträgen durchsetzbar)

CIO eines Industriebetriebs: "Wir hatten einen Vorfall, bei dem ein Praktikant Kundendaten in die kostenlose ChatGPT-Version eingegeben hat. Dank unseres Response-Plans konnten wir innerhalb von 4 Stunden die Daten beim Anbieter löschen lassen — und die Aufsichtsbehörde von der Meldepflicht entbinden, weil das Risiko für Betroffene als gering eingestuft wurde."

Praxisbeispiel: Wie ein Pharma