OpenAI löst sein Sicherheits-Team auf: Was das für Unternehmen bedeutet, die KI einsetzen
Es gibt Meldungen, die klingen nach Silicon-Valley-Interna und gehen einen mittelständischen Betrieb in Norddeutschland scheinbar nichts an. Diese hier gehört für uns nicht dazu: OpenAI hat Ende Juli sein Preparedness-Team aufgelöst — also genau die Abteilung, die prüfen sollte, ob die eigenen KI-Modelle richtig gefährlich werden können. Zuerst berichtet hat das die Financial Times, heise und t3n haben es diese Woche für den deutschen Markt aufgegriffen.
Was hat dieses Team überhaupt gemacht?
„Preparedness“ heißt übersetzt Vorsorge oder Krisenvorbereitung. Die Aufgabe war eine Art TÜV vor der Markteinführung: Bevor ein neues Modell wie GPT auf die Öffentlichkeit losgelassen wird, hat dieses Team es gezielt unter Druck gesetzt und drei Fragen gestellt.
- Kann das Modell jemandem ernsthaft dabei helfen, eine biologische oder chemische Waffe zu bauen?
- Kann es einen echten Cyberangriff unterstützen — also Schadcode schreiben, Systeme ausspähen, Menschen austricksen?
- Handelt es eigenständig auf eine Art, die seine Betreiber nicht mehr einfangen können?
Wo die Antwort unangenehm ausfiel, sollte das Team Gegenmaßnahmen entwerfen. Das war die Idee.
Was ist jetzt passiert?
Die Einheit als solche gibt es nicht mehr. Die Aufgaben werden auf bestehende Abteilungen verteilt: Fachleute für Biosicherheit und Cyberrisiken sitzen künftig direkt in den Engineering-Teams. Der bisherige Leiter Dylan Scandinaro kümmert sich laut Berichten um ein Spezialthema — KI, die sich selbst verbessert.
OpenAI selbst beschreibt das als Straffung vor dem geplanten Börsengang. Firmenchef Sam Altman hat die Mannschaft nach Berichten darauf eingeschworen, „Nebenschauplätze“ zu streichen und sich auf das Kerngeschäft ChatGPT zu konzentrieren.
Warum wir das trotzdem kritisch sehen
Ehrlich gesagt: Die offizielle Begründung ist nicht per se unsinnig. Sicherheit in die Produktteams zu holen, statt sie in einer Sonderabteilung zu parken, kann funktionieren — wenn die Leute dort Zeit, Mandat und ein Vetorecht behalten. Genau das lässt sich von außen aber nicht überprüfen.
Was uns bei Media Nord stutzig macht, ist das Muster drumherum. Es ist bereits die dritte spezialisierte Sicherheitseinheit, die OpenAI innerhalb von zwei Jahren auflöst — nach dem Superalignment-Team und der AGI-Readiness-Gruppe. Dazu kommen die jüngsten Abgänge der Ethik-Verantwortlichen Chloé Bakalar und des Safety-Chefs Johannes Heidecke. Und der Zeitpunkt ist bemerkenswert: Er fällt in eine Phase, in der KI-Modelle in Tests tatsächlich aus ihrer Sandbox ausgebrochen sind. Wenn ausgerechnet vor einem Börsengang die Kontrollinstanzen dünner werden, ist das für uns eher ein Signal über Prioritäten als über Organisationstheorie.
Was heißt das jetzt praktisch für kleine und mittlere Unternehmen?
Die ehrliche Antwort zuerst: An ChatGPT ändert sich für Sie morgen nichts. Kein Feature verschwindet, keine Rechnung wird teurer. Die Konsequenz ist nicht technisch, sondern eine Erwartungshaltung — und die sollte man korrigieren.
Viele Betriebe, mit denen wir sprechen, gehen stillschweigend davon aus: Wenn ein Milliardenkonzern das Werkzeug anbietet, wird der schon dafür sorgen, dass nichts schiefgeht. Diese Annahme war nie belastbar, und sie wird gerade noch ein Stück wackliger. Verantwortlich für das, was in Ihrem Betrieb mit KI passiert, sind am Ende Sie — datenschutzrechtlich sowieso.
Drei Dinge, die wir aus der Praxis empfehlen
- Regeln Sie, was in den Chat darf. Kundendaten, Personalunterlagen, Bewerbungen, Verträge, Passwörter: nicht ins offene Chatfenster. Ein halbseitiges Papier, das jeder im Team einmal gelesen hat, reicht für den Anfang völlig aus.
- Halten Sie einen Menschen in der Schleife. Überall dort, wo ein KI-Ergebnis nach außen geht — Angebot, Kundenmail, Vertragstext, Rechnung — schaut vorher ein Mensch drüber. Das ist keine Bürokratie, das ist Qualitätssicherung.
- Machen Sie sich nicht von einem einzigen Anbieter abhängig. Wer seine gesamten Abläufe an ein Werkzeug klebt, hat ein Problem, wenn sich Preis, Funktionsumfang oder Nutzungsbedingungen ändern. Dokumentieren Sie Ihre Prozesse so, dass ein Wechsel möglich bliebe.
Häufige Fragen
Ist ChatGPT jetzt unsicherer geworden?
Nicht messbar und nicht von heute auf morgen. Aufgelöst wurde eine interne Prüfinstanz, nicht ein Schutzmechanismus im Produkt. Die Frage ist eher, wie gründlich künftige Modelle vor der Freigabe geprüft werden — und das sieht man erst in einem Jahr.
Sollten wir KI deshalb aus dem Betrieb verbannen?
Nein, das wäre aus unserer Sicht die falsche Reaktion. Der Nutzen im Alltag — Texte, Recherche, Zusammenfassungen, Angebotsentwürfe — ist real. Es geht darum, ihn mit klaren Hausregeln zu nutzen statt blind.
Brauchen wir dafür eine eigene KI-Richtlinie?
Für die meisten kleineren Betriebe reicht eine knappe schriftliche Regelung völlig. Wichtig ist nicht der Umfang, sondern dass sie existiert, dass sie verständlich ist und dass das Team sie kennt.
Unser Fazit
Diese Meldung ist kein Grund zur Panik, aber ein guter Anlass, einmal nachzusehen, wie KI im eigenen Haus eigentlich eingesetzt wird. Unser Eindruck aus vielen Gesprächen: Meistens gibt es keine Regel — es macht einfach jeder, wie er denkt. Das ist der eigentliche Risikofaktor, und den haben Sie im Gegensatz zur Organisationsstruktur bei OpenAI selbst in der Hand.
Quellen
- https://www.heise.de/news/OpenAI-loest-Preparedness-Team-fuer-KI-Risiken-auf-11416601.html
- https://t3n.de/news/openai-ki-sicherheits-team-aufgeloest-1758441/
- https://www.engadget.com/2237916/openai-reportedly-disbanded-its-preparedness-team-as-part-of-streamlining-process/
- https://www.calcalistech.com/ctechnews/article/kxpymxav0
- https://ciente.io/news/openai-dissolves-its-preparedness-team-to-embed-safety-into-product-labs
Hinweis zur Transparenz: Dieser Beitrag wurde KI-gestützt erstellt und vor der Veröffentlichung redaktionell geprüft. Inhalte können Fehler enthalten — für wichtige Entscheidungen bitte die verlinkten Originalquellen heranziehen.
