24.000 KI-Chats ausgewertet: Was Mitarbeitende wirklich eintippen
Mir ist diese Woche eine Studie aufgefallen, die eine erstaunlich simple Lücke schließt: Bisher wussten wir eigentlich nicht, wofür Menschen KI-Assistenten tatsächlich benutzen. Wir wussten nur, was die Anbieter darüber erzählen.
Was ist das AI Observatory?
Das AI Observatory ist eine öffentliche Forschungsplattform. Geleitet wird sie von Anka Reuel, Doktorandin am Trustworthy AI Research Lab der Universität Stanford; beteiligt sind Forschende vom MIT und weiteren Einrichtungen. Das Team hat sieben bereits bestehende Datensätze zusammengeführt — insgesamt über 24.000 echte Gespräche mit Assistenten wie Claude und Gemini, die die Nutzerinnen und Nutzer selbst zur Auswertung freigegeben haben.
Der Punkt dabei ist die Unabhängigkeit. Es sind nicht die Zahlen eines Herstellers über sein eigenes Produkt.
Warum war das überhaupt nötig?
Weil es bisher keine Gegenprobe gab. OpenAI und Anthropic veröffentlichen regelmäßig Berichte darüber, wie ihre Produkte genutzt werden. Das ist grundsätzlich löblich — nur veröffentlichen sie eben genau die Daten, die sie veröffentlichen wollen. Die beteiligte Forscherin bringt es trocken auf den Punkt: Es gibt keine unabhängige Quelle, die das bestätigen könnte.
Hinzu kommt eine Verzerrung, die die Anbieter selbst einräumen: Ihre Berichte drehen sich stark um geschäftliche Anwendungsfälle. Die private Nutzung kommt darin kaum vor.
Und was kam heraus?
Ein deutlich sensibleres Bild. In den echten Verläufen wird persönlicher, privater und heikler getippt, als es die offiziellen Beispiele nahelegen. Menschen schildern gesundheitliche Probleme, Beziehungsfragen, finanzielle Sorgen. Nicht als Ausnahme, sondern als wiederkehrendes Muster.
Zusätzlich zeigt die Auswertung, dass sich die Nutzung je nach Modell unterscheidet und sich über die Zeit verändert hat. Auch das ist eine Information, die man aus Herstellerberichten so nicht bekommt.
Was hat ein 20-Mann-Betrieb davon?
Mehr, als man denkt — und zwar nicht als Datenschutz-Panik, sondern als Realitätsabgleich.
Ehrlich gesagt halte ich die verbreitete Annahme für naiv, Beschäftigte würden KI-Werkzeuge genau so nutzen, wie es in der Einführungsschulung stand. Menschen tippen in ein Chatfenster, was ihnen gerade im Kopf herumgeht. Das ist völlig normal. Nur landet dabei eben manchmal ein Kundenname, ein Preisnachlass oder eine Personalfrage in einem System, das dem Betrieb nicht gehört.
Unser Tipp aus der Praxis: Eine Seite reicht. Keine 14-seitige Richtlinie, die niemand liest, sondern eine kurze, verständliche Regel:
- Was darf rein? Allgemeine Fragen, öffentlich bekannte Informationen, anonymisierte Beispiele.
- Was bleibt draußen? Klarnamen von Kunden, Gesundheits- und Personaldaten, Zugangsdaten, unveröffentlichte Kalkulationen.
- Wer hilft im Zweifel? Eine benannte Person im Haus, die man kurz fragen kann.
Das kostet einen Nachmittag und verhindert die überwiegende Mehrheit der Pannen, die wir in der Praxis sehen.
Häufige Fragen
Werden unsere Chats von den Anbietern mitgelesen?
In Geschäftstarifen ist eine Nutzung zu Trainingszwecken in der Regel ausgeschlossen, in kostenlosen Zugängen oft nicht. Genau deshalb ist es sinnvoll, im Betrieb einen einheitlichen, bezahlten Zugang bereitzustellen, statt jeden mit dem privaten Konto arbeiten zu lassen.
Reicht ein Verbot?
Nein. Verbote führen dazu, dass die Werkzeuge trotzdem genutzt werden, nur eben unsichtbar und mit privaten Konten. Eine klare Erlaubnis mit Grenzen wirkt besser.
Brauchen wir das im Verarbeitungsverzeichnis?
Wenn personenbezogene Daten verarbeitet werden: ja. Das ist keine Kür, sondern Standardpflicht.
Unser Fazit
Wir bei Media Nord finden es gut, dass endlich jemand unabhängig nachmisst, statt sich auf Marketingberichte zu verlassen. Für den eigenen Betrieb ist die wichtigste Erkenntnis aber gar nicht die Zahl 24.000 — sondern die schlichte Einsicht, dass Menschen im Chatfenster ehrlicher sind, als es der Datenschutz lieb hat. Eine Seite Spielregeln löst das Problem weitgehend.
Quellen
- https://t3n.de/news/analyse-von-mehr-als-24-000-chats-diese-plattform-will-zeigen-was-ki-firmen-nicht-verraten-1759043/
- https://hai.stanford.edu/news/be-careful-what-you-tell-your-ai-chatbot
- https://www.businessstory.org/2026/08/18/we-still-dona%C2%80%C2%99t-know-how-people-are-really-using-ai/
- https://www.srf.ch/news/ki-und-privatsphaere-was-wir-der-ki-anvertrauen-bleibt-nicht-geheim
Hinweis zur Transparenz: Dieser Beitrag wurde KI-gestützt erstellt und vor der Veröffentlichung redaktionell geprüft. Inhalte können Fehler enthalten — für wichtige Entscheidungen bitte die verlinkten Originalquellen heranziehen.
