Wenn Mitarbeiter Kundendaten in ChatGPT kippen: Wer haftet wirklich?
Letzte Woche, bei einer Bestandsaufnahme in einem Betrieb: Ich schaue einem Mitarbeiter über die Schulter — und er kopiert gerade echte Kundendaten in ChatGPT. Privater Account, völlig selbstverständlich, „geht doch schneller“. Ehrlich gesagt fallen wir bei sowas fast vom Stuhl. Und das Schlimme: Es ist kein Einzelfall.
Wir bei Media Nord beraten kleine und mittlere Betriebe bei KI — und sind gleichzeitig als Datenschutzbeauftragte unterwegs. Diese Doppelrolle sorgt dafür, dass wir fast überall dasselbe sehen: KI ist längst im Betrieb angekommen, nur eben heimlich. Über private Accounts, ohne Regeln, ohne dass die Geschäftsführung davon weiß. Wir nennen das Schatten-KI.
Warum das ein echtes Problem ist
Viele denken: „Ist doch nur ein Tool.“ Ist es eben nicht. Bei der kostenlosen ChatGPT-Version werden die Eingaben standardmäßig zum Training verwendet — seit Ende September 2025 muss man dem aktiv widersprechen, sonst landen die Inhalte im Modell und werden teils über Jahre gespeichert. Sobald da ein Kundenname, eine Adresse oder eine Krankmeldung reingeht, ist das eine meldepflichtige Datenpanne.
Rechtlich ist die Sache klar: Sobald personenbezogene Daten in ChatGPT eingegeben werden, verarbeitet OpenAI sie in deinem Auftrag. Und für so eine Auftragsverarbeitung verlangt Artikel 28 DSGVO einen Vertrag (AVV). Den gibt es nur für die Business-, Enterprise- oder API-Version — nicht automatisch beim privaten Gratis-Account. Im Klartext: Der private ChatGPT-Account im Betrieb ist datenschutzrechtlich ein Minenfeld.
Und wer ist schuld?
Jetzt kommt der Teil, den keiner gern hört: Schuld ist nicht zuerst der Mitarbeiter. Schuld ist der Chef. Klingt hart, ist aber so. Denn du als Geschäftsführer bist der Erste, der sich informieren muss, wie KI im Betrieb datenschutzkonform läuft — und der klare Regeln und verständliche Infos an die Leute rausgeben muss. Ohne Ansage macht jeder das, was er für richtig hält. Und dann zeigt der Mitarbeiter zu Recht auf die fehlende Regel.
Unser Tipp aus der Praxis: Es braucht keine 40-seitige Richtlinie. Es braucht drei Dinge — eine klare Ansage, welche Daten NIE in eine KI dürfen; ein sauberes, vertraglich abgesichertes Tool für den Betrieb; und eine kurze Schulung, damit jeder versteht, warum. Genau das richten wir in unseren Beratungen ständig ein. Meistens ist das an einem Nachmittag erledigt.
Was passiert, wenn man nichts tut?
Dann wird es im Ernstfall teuer. Die DSGVO sieht Bußgelder von bis zu 20 Millionen Euro oder 4 Prozent des weltweiten Jahresumsatzes vor — je nachdem, was höher ist. Dass das keine Theorie ist, zeigt der Fall in Italien: Die dortige Datenschutzbehörde hat OpenAI Ende 2024 mit 15 Millionen Euro belegt. Allein in Deutschland verhängten die Behörden 2025 Bußgelder von fast 47 Millionen Euro. Für einen kleinen Betrieb reicht aber schon ein einziger verärgerter Kunde, der sich beschwert.
Häufige Frage: Darf ich ChatGPT im Betrieb dann gar nicht nutzen?
Doch, klar. Du musst es nur richtig aufsetzen: Business- oder Enterprise-Version mit AVV, klare Regeln, keine personenbezogenen Daten ohne Freigabe. Dann ist KI ein riesiger Produktivitäts-Hebel — ganz ohne Bauchschmerzen.
Unser Fazit: Schatten-KI ist kein IT-Problem, sondern ein Führungsthema. Wer als Chef vorangeht, klare Regeln setzt und ein sauberes Tool bereitstellt, macht aus einem Risiko einen Vorteil. Wer wegschaut, zahlt irgendwann drauf.
Quellen
- https://simpliant.eu/insights/GDPR-requirements-when-using-chatgpt-api
- https://oneagent.de/en/blog/customer-data-in-chatgpt
- https://www.jdsupra.com/topics/italy/artificial-intelligence/general-data-protection-regulation-gdpr
Hinweis zur Transparenz: Dieser Beitrag wurde KI-gestützt erstellt und vor der Veröffentlichung redaktionell geprüft. Inhalte können Fehler enthalten — für wichtige Entscheidungen bitte die verlinkten Originalquellen heranziehen.
