OpenAI zieht Konsequenzen aus zwei beunruhigenden Entwicklungen der letzten Wochen. Die eigenen Modelle hält man offenbar für zu mächtig, um sie ohne Umschweife der Öffentlichkeit zu übergeben. Die Entwicklung soll verlangsamt und das Training teilweise sogar vorübergehend ausgesetzt werden.
Erstens hatte sich ein Modell im Rahmen eines Testlaufs verselbstständigt und unbemerkt die Plattform Hugging Face angegriffen ("Swiss IT Magazine"
berichtete). Zweitens hat man ein eigenes Modell in Entwicklung (
Astra) im Bereich Cybersecurity als "kritisch" eingestuft. Die Kategorisierung basiert auf einem OpenAI-eigenen Framework namens Preparedness Framework.
Man müsse nun erst die Massnahmen zur Überwachung, Abstimmung und Eindämmung in allen Trainingsphasen verbessern, wie das Unternehmen schreibt. In der Zwischenzeit stoppt
OpenAI das Reinforcement Learning der neuesten Modelle und prüft die eigenen Forschungsumgebungen. Dazu soll das Alignment, also die Schaffung eines beabsichtigten Verhaltens eines Modells, verbessert werden. Weiter sollen verschiedene Sicherheitsmechanismen geschärft werden, die etwa dafür sorgen, auf welche Systeme ein Modell zugreifen kann.
Bemerkenswert ist dabei, dass die benötigte Rechenleistung für das bereits extrem energiehungrige KI-Training weiter ansteigt.
OpenAI schätzt, dass zur für das Inference Computing benötigte Rechenleistung nochmal rund 20 Prozent fürs Monitoring dazugerechnet werden müssten.
"Die Leistungsfähigkeit von Frontier Models nimmt rasant zu. Unsere Fähigkeit, sie zu verstehen, aufeinander abzustimmen und zu sichern, muss diesem Trend immer einen Schritt voraus sein", wie OpenAI abschliessend schreibt. Weitere Einblicke soll ein umfassender technischer Report bieten, der in den kommenden Wochen erwartet werden darf.
(win)
