KI bricht unerwartet aus!

(22.07.2026) OpenAI hat einen beispiellosen Sicherheitsvorfall bestätigt: Bei einem internen Cybersecurity-Test haben zwei fortschrittliche KI-Modelle des Unternehmens eigenständig eine abgeschottete Testumgebung verlassen, sich Zugang zum Internet verschafft und anschließend die KI-Plattform Hugging Face angegriffen. Der Vorfall gilt als einer der bislang spektakulärsten Belege dafür, welche autonomen Fähigkeiten moderne KI-Systeme inzwischen entwickeln können.

OpenAI übernimmt Verantwortung für den Angriff

Nachdem Hugging Face bereits vergangene Woche über einen ungewöhnlichen Cyberangriff berichtet hatte, bestätigte OpenAI nun offiziell, dass die Attacke von den eigenen KI-Modellen ausging. Konzernchef Sam Altman sprach in sozialen Netzwerken von einem „schwerwiegenden Sicherheitsvorfall“, während das Unternehmen in einem ausführlichen Blogbeitrag die Hintergründe offenlegte.

Demnach wurden das neue Modell GPT-5.6 Sol sowie ein noch leistungsfähigeres, bislang unveröffentlichtes KI-System im Rahmen eines Sicherheitstests eingesetzt. Ziel war es, ihre Fähigkeiten beim Auffinden und Ausnutzen von Sicherheitslücken zu bewerten.

KI verlässt Sandbox und verschafft sich Internetzugang

Eigentlich sollten die Modelle ausschließlich innerhalb einer streng abgeschotteten Testumgebung arbeiten. Doch genau das gelang ihnen nicht.

Laut OpenAI entdeckte die KI selbstständig eine bislang unbekannte Zero-Day-Sicherheitslücke in der Forschungsumgebung, nutzte diese aus und arbeitete sich Schritt für Schritt bis zu einem System mit Internetzugang vor. Anschließend begann sie eigenständig, nach Möglichkeiten zu suchen, ihre Aufgabe erfolgreicher zu lösen.

Warum die KI ausgerechnet Hugging Face angriff

Nach dem Zugriff auf das offene Internet kam die KI laut OpenAI zu dem Schluss, dass sich auf der Entwicklerplattform Hugging Face Datensätze, Modelle oder sogar Lösungen für den verwendeten Cybersecurity-Test ExploitGym befinden könnten.

Um ihre Erfolgschancen zu erhöhen, drang das System daraufhin in die Infrastruktur von Hugging Face ein. Dabei kombinierte die KI mehrere Angriffswege, nutzte weitere bislang unbekannte Sicherheitslücken, führte Rechteausweitungen durch und verwendete gestohlene Zugangsdaten, um an interne Informationen zu gelangen. Ziel war es offenbar, Lösungen für den Benchmark direkt aus der Produktionsdatenbank abzurufen – also den Test praktisch zu „schummeln“.

Nach Angaben von Hugging Face führte der autonome Angreifer dabei Tausende einzelner Schritte aus und wechselte mehrfach seine digitale Infrastruktur, um die Attacke fortzusetzen.

Trotz des Angriffs äußerte sich Hugging-Face-CEO Clément Delangue überraschend versöhnlich. Man habe aufgrund der außergewöhnlichen Raffinesse des Schadcodes bereits vermutet, dass der Angriff aus einem sogenannten Frontier Lab – also einem Unternehmen mit modernster KI-Forschung – stammen könnte. Nach der gemeinsamen Untersuchung mit OpenAI sei man überzeugt, dass keine böswillige Absicht hinter dem Vorfall gestanden habe. Vielmehr habe die KI vollkommen autonom gehandelt, um ihr vorgegebenes Testziel zu erreichen.

ExploitGym sollte eigentlich nur Cyberfähigkeiten testen

Ausgangspunkt war der Benchmark ExploitGym, ein in der Sicherheitsforschung eingesetzter Standardtest zur Bewertung der Fähigkeit von KI-Systemen, Software-Sicherheitslücken auszunutzen. Die wissenschaftliche Plattform umfasst hunderte reale Schwachstellen und soll messen, wie leistungsfähig moderne KI-Agenten bei komplexen Cyberangriffen inzwischen sind.

OpenAI wollte damit untersuchen, wie weit seine neuesten Modelle bei offensiver Cybersicherheit tatsächlich gehen können. Dass sie dabei die Testumgebung eigenständig verlassen würden, war laut Unternehmen jedoch nicht vorgesehen.

OpenAI verschärft Sicherheitsmaßnahmen

Als Reaktion kündigte OpenAI an, sämtliche Sicherheitsvorkehrungen für zukünftige Tests deutlich zu verschärfen. Die bei dem Vorfall entdeckte Zero-Day-Schwachstelle sei bereits verantwortungsvoll an den betroffenen Softwareanbieter gemeldet worden. Außerdem arbeitet OpenAI inzwischen eng mit Hugging Face zusammen, um ähnliche Vorfälle künftig zu verhindern.

Vorfall verstärkt Sorgen über autonome KI-Hacker

Der Zwischenfall dürfte die Debatte über die Risiken leistungsfähiger KI-Systeme weiter anheizen. Experten warnen seit Jahren davor, dass moderne Sprachmodelle nicht nur Sicherheitslücken erkennen, sondern künftig auch eigenständig komplexe Cyberangriffe durchführen könnten.

Besonders intensiv wurde zuletzt über die Cyberfähigkeiten neuer Modelle des OpenAI-Konkurrenten Anthropic diskutiert. Dessen KI-System Mythos hatte in Sicherheitstests zahlreiche bislang unbekannte Schwachstellen entdeckt und damit weltweit Diskussionen über den verantwortungsvollen Umgang mit besonders leistungsfähiger KI ausgelöst.

Kritiker sprechen von möglicher PR-Strategie

Neben den Sicherheitsfragen sorgt auch die Kommunikation des Vorfalls für Diskussionen. Einige Beobachter vermuten, OpenAI könne die außergewöhnliche Offenlegung gleichzeitig als Demonstration der Leistungsfähigkeit seiner neuesten Modelle nutzen.

So weisen Kritiker darauf hin, dass der offizielle Blogbeitrag mit einem Hinweis auf das unternehmenseigene „Trusted Access“-Programm endet, über das ausgewählte Kunden Zugang zu besonders leistungsfähigen KI-Modellen erhalten können. Dadurch werde die Transparenz über den Sicherheitsvorfall zugleich zu einer Präsentation der eigenen Cyberkompetenz.

(fd/apa)