Ein Sicherheitstest von
OpenAI ist weiter gegangen als geplant. Laut OpenAI wurden GPT-5.6 Sol und ein noch nicht veröffentlichtes Vorabmodell in einem Cyber-Benchmark
getestet. Dafür liefen die Modelle mit reduzierten Schutzmechanismen, damit ihre maximalen Cyberfähigkeiten bewertet werden konnten.
Die Modelle suchten dabei nicht nur nach einer Lösung für die Testaufgabe. Nach Angaben von OpenAI fanden sie zuerst einen Weg aus der abgeschotteten Forschungsumgebung ins offene Internet. Dafür nutzten sie eine Zero-Day-Schwachstelle in einer intern verwendeten Drittanbieter-Software aus. Anschliessend kombinierten sie weitere Schwachstellen und gestohlene Zugangsdaten, um in die Produktionsinfrastruktur von Hugging Face vorzudringen und dort an Testlösungen zu gelangen.
Bei Hugging Face fiel der
Vorfall zunächst als ungewöhnlicher Einbruch in Teile der Produktionsinfrastruktur auf. Die Plattform beschreibt den Angriff als anders als alles, womit man bisher zu tun gehabt habe: Er sei von einem autonomen KI-Agentensystem von Anfang bis Ende ausgeführt worden. Nach Angaben des Unternehmens kam es zu unbefugtem Zugriff auf eine begrenzte Zahl interner Datensätze sowie auf mehrere Zugangsdaten. Hinweise auf Manipulationen an öffentlich sichtbaren Modellen, Datensätzen oder der Software-Lieferkette habe man nicht gefunden.
Hugging Face hat betroffene Zugangsdaten zurückgesetzt, kompromittierte Systeme neu aufgebaut und zusätzliche Schutzmassnahmen eingeführt. Nutzern empfiehlt die Plattform vorsorglich, Zugriffstoken zu erneuern und die jüngsten Kontoaktivitäten zu prüfen. OpenAI und Hugging Face untersuchen den Vorfall gemeinsam, zudem hat OpenAI die ausgenutzte Zero-Day-Schwachstelle dem betroffenen Anbieter gemeldet.
Trotz des Vorfalls betont Hugging-Face-CEO Clem Delangue die Zusammenarbeit mit
OpenAI. "Wir sind dankbar für die Zusammenarbeit mit OpenAI zu diesem und anderen Themen. Dieser Vorfall, möglicherweise der erste seiner Art, beweist eine Überzeugung, die wir schon lange hegen: Die Sicherheit von KI wird nicht von einem einzelnen Unternehmen im Geheimen gelöst werden."
(dow)
