GPT-Red: OpenAIs KI-Hacker – und was das fuer die KI-Sicherheit in Ihrem Betrieb heisst
Als ich diese Woche gelesen habe, dass OpenAI eine KI gebaut hat, deren einziger Job es ist, andere KIs zu hacken, war mein erster Gedanke: Ist das nicht brandgefaehrlich? Wir bei Media Nord haben genauer hingeschaut — und ehrlich gesagt steckt dahinter eine ziemlich kluge Idee, von der auch kleine und mittlere Betriebe etwas lernen koennen.
Was ist GPT-Red?
GPT-Red ist ein sogenanntes Red-Team. Der Begriff kommt aus der IT-Sicherheit: Ein Red-Team ist eine Gruppe, die ein System absichtlich angreift, um Schwachstellen zu finden, bevor echte Kriminelle sie ausnutzen. Nur ist das Red-Team hier kein Mensch, sondern eine KI. OpenAI hat GPT-Red gebaut, um die eigenen Modelle — allen voran ChatGPT in der Version GPT-5.6 — systematisch auf die Probe zu stellen.
Wogegen kaempft GPT-Red?
Der Hauptgegner heisst „Prompt Injection“. Das klingt technisch, ist aber schnell erklaert: Dabei versteckt ein Angreifer heimliche Anweisungen dort, wo eine KI mitliest — zum Beispiel in einer E-Mail, auf einer Webseite oder in einem Dokument. Die KI liest diesen versteckten Befehl und fuehrt ihn aus, ohne dass der Nutzer es merkt. So koennte eine manipulierte Mail eine KI zum Beispiel dazu bringen, vertrauliche Daten weiterzugeben. GPT-Red denkt sich pausenlos neue Varianten solcher Tricks aus und wird dabei immer raffinierter.
Wie gut ist die KI darin?
Erschreckend gut, muss man sagen. In OpenAIs internen Tests war GPT-Red in 84 Prozent der Faelle erfolgreich — ein menschliches Team schaffte im Vergleich nur 13 Prozent. GPT-Red hat sogar eine voellig neue Angriffsart entdeckt, die die Forscher „gefaelschte Gedankenkette“ nennen: Dabei wird der KI ein falscher Notizzettel in ihr Arbeitsgedaechtnis geschmuggelt, sodass sie etwas fuer wahr haelt, das gar nicht stimmt.
Ist das jetzt gut oder schlecht?
Unterm Strich halte ich es fuer eine gute Nachricht. Denn all diese Angriffe findet GPT-Red im geschuetzten Labor — und die Erkenntnisse fliessen direkt in die Absicherung der Modelle ein. Zum Vergleich: Aeltere Angriffe funktionierten bei ueber 90 Prozent gegen das GPT-5 von letztem Jahr, aber nur noch bei unter 23 Prozent gegen das neue GPT-5.6. Die Modelle werden also messbar sicherer.
Was heisst das fuer mein Unternehmen?
Genau hier wird es fuer Sie praktisch. Wenn Sie KI im Betrieb einsetzen und ihr Zugriff auf Mails, Ihre Website oder Dokumente geben, besteht grundsaetzlich die Gefahr, dass sie ueber versteckte Inhalte manipuliert wird. Unser Tipp aus der Praxis: Geben Sie einer KI nur so viel Zugriff, wie sie wirklich braucht, und lassen Sie kritische Aktionen — etwa das Versenden von Mails oder das Herausgeben von Daten — immer erst nach Ihrer Freigabe zu. So nutzen Sie die Vorteile, ohne unnoetig Risiko einzugehen. Wir behalten das Thema KI-Sicherheit fuer Sie im Blick und sagen Bescheid, wenn es Neues gibt.
Quellen
- https://t3n.de/news/openai-entwickelt-eigenen-ki-hacker-wie-gpt-red-die-modelle-des-unternehmens-sicherer-machen-soll-1753133/
- https://www.technologyreview.com/2026/07/15/1140514/meet-gpt-red-an-llm-super-hacker-openai-built-to-make-its-models-safer/
- https://thenextweb.com/news/gpt-red-openai-ai-hacker
Hinweis zur Transparenz: Dieser Beitrag wurde KI-gestützt erstellt und vor der Veröffentlichung redaktionell geprüft. Inhalte können Fehler enthalten — für wichtige Entscheidungen bitte die verlinkten Originalquellen heranziehen.
