ChatGPT im Gerichtsbeschluss: Was der Fall aus Hessen für Ihr Unternehmen bedeutet
Manchmal erklärt ein einziger Fall mehr über den Umgang mit Künstlicher Intelligenz als zehn Ratgeber. Diese Woche ist so ein Fall aufgetaucht — und er kommt aus einem deutschen Gerichtssaal. Mir ist dabei vor allem eines hängen geblieben: Der Fehler ist nicht spektakulär. Er ist banal. Genau deshalb kann er jedem passieren.
Was ist passiert?
Der Hessische Verwaltungsgerichtshof — die zweite Instanz der Verwaltungsgerichtsbarkeit in Hessen — hat am 24. Juni 2026 einen Beschluss veröffentlicht. Inhaltlich ging es um eine schwierige Frage: Haben ukrainische Staatsangehörige ein Aufenthaltsrecht in der EU, wenn sie nach Kriegsbeginn zunächst nach Georgien geflohen und erst später nach Deutschland weitergereist sind? Das Gericht legte die Frage dem Europäischen Gerichtshof vor.
Auffällig wurde der Beschluss durch ein Detail in den Quellenangaben: Bei fünf Internet-Links hängt am Ende der Adresse der Zusatz source=chatgpt.com. Dieser Anhang entsteht automatisch, wenn jemand einen Link direkt aus ChatGPT herauskopiert. Damit war belegt, dass das Sprachmodell bei der Vorbereitung im Spiel war.
Und was ist daran schlimm?
Zunächst einmal: nichts. Dass ein Gericht ein Recherchewerkzeug benutzt, ist kein Skandal. Juristen googeln auch.
Das Problem beginnt einen Schritt später. Bei zwei der Quellen deckte der verlinkte Text nicht, was im Beschluss behauptet wurde. Konkret: Das Gericht schrieb, eine georgische Regierungsverordnung vom 24. Februar 2026 habe das Aufenthaltsrecht für Ukrainer bis zum 24. Februar 2027 verlängert. In der verlinkten Quelle stand das nicht. Das Gericht hat den Fehler gegenüber der Frankfurter Allgemeinen Zeitung eingeräumt, hält den Beschluss inhaltlich aber weiterhin für richtig.
Warum passiert so etwas?
Sprachmodelle wie ChatGPT erzeugen Text, der statistisch plausibel klingt. Sie „wissen“ nicht, ob eine Quelle das enthält, was sie behaupten. Fachleute nennen das Halluzination — die KI erfindet etwas, das perfekt aussieht. Bei Quellenangaben ist dieser Effekt besonders tückisch, weil ein Link Seriosität ausstrahlt. Er sieht aus wie ein Beleg. Er ist aber nur so lange einer, wie ihn jemand aufgemacht und gelesen hat.
Was wir davon halten
Wir bei Media Nord finden die Aufregung über „KI im Gericht“ ehrlich gesagt an der falschen Stelle. Das eigentliche Versäumnis ist kein KI-Problem, sondern ein Prozessproblem: Es hat schlicht niemand nachgeschaut. Genau dieselbe Lücke sehen wir bei Kunden — im Angebotstext, in der Förderantragsbegründung, im Blogartikel. Die KI liefert, es klingt gut, es geht raus.
Unser Tipp aus der Praxis, und der ist unspektakulär: Jeder Link, jede Zahl, jedes Zitat aus einer KI wird einmal aufgemacht und gelesen. Nicht überflogen — gelesen. Das kostet pro Text ein paar Minuten und verhindert genau die Sorte Fehler, die später richtig teuer wird.
Was heißt das für kleine und mittlere Unternehmen?
Der Reflex „Wir verbieten KI einfach“ ist der falsche. Er führt nur dazu, dass Mitarbeitende sie heimlich nutzen — und dann prüft erst recht niemand mit. Besser ist eine klare, kurze Hausregel:
- Erlaubt ist der Einsatz — für Entwürfe, Zusammenfassungen, Formulierungen.
- Pflicht ist die Prüfung — bei allem, was nach außen geht oder rechtlich bindet.
- Benannt ist die Verantwortung — eine Person gibt frei, und diese Person haftet auch dafür.
- Dokumentiert wird der Check — ein Häkchen in der Freigabe reicht schon.
Wichtig zu wissen: Rechtlich ändert KI nichts an der Verantwortung. Wer ein fehlerhaftes Angebot verschickt, kann sich nicht darauf berufen, dass ein Programm es geschrieben hat.
Häufige Fragen
Darf man ChatGPT für berufliche Texte nutzen?
Ja. Entscheidend ist, was mit dem Ergebnis passiert, bevor es das Haus verlässt — und dass keine vertraulichen Daten hineingeraten.
Woran erkenne ich eine erfundene Quelle?
Am zuverlässigsten daran, dass man sie öffnet. Warnzeichen sind Links, die ins Leere laufen, sowie sehr präzise Angaben wie Aktenzeichen oder Verordnungsdaten ohne auffindbaren Beleg.
Muss ich kennzeichnen, dass KI im Spiel war?
Für interne Texte nicht. Bei veröffentlichten Inhalten halten wir einen Transparenzhinweis für den ehrlicheren Weg — wir machen das hier selbst so.
Wir beobachten weiter, wie sich der Umgang mit KI in Behörden und Betrieben entwickelt, und melden uns, wenn es Neues gibt.
Quellen
- https://www.heise.de/news/ChatGPT-im-Gerichtssaal-Hessische-Richter-kopieren-erkennbar-KI-Quellen-11409312.html
- https://www.heise.de/en/news/ChatGPT-in-the-courtroom-Hessian-judges-recognizably-copy-AI-sources-11409359.html
- https://www.it-boltwise.de/hessischer-verwaltungsgerichtshof-copy-paste-link-mit-chatgpt-im-beschluss.html
- https://www.blogspan.net/verwaltungsgerichtshof-chatgpt-spuren-eugh-beschluss/
Hinweis zur Transparenz: Dieser Beitrag wurde KI-gestützt erstellt und vor der Veröffentlichung redaktionell geprüft. Inhalte können Fehler enthalten — für wichtige Entscheidungen bitte die verlinkten Originalquellen heranziehen.
