Drei Claude-Modelle haben bei Sicherheitstests unbefugt auf Systeme realer Unternehmen zugegriffen. Wie
Anthropic nach der Prüfung von mehr als 141'000 Testläufen
mitteilt, konnten die Modelle wegen einer falschen Einstellung auf das offene Internet zugreifen. Anthropic hatte Claude allerdings gesagt, es handle sich um eine abgeschottete Übung. Die Modelle hielten die erreichbaren realen Systeme deshalb für einen Teil des Tests.
Auslöser für die Untersuchung war laut dem Unternehmen der Zwischenfall bei
OpenAI. Dort waren mehrere KI-Modelle aus einer abgeschotteten Testumgebung ausgebrochen und hatten mit Hilfe einer zuvor unbekannten Sicherheitslücke Systeme von Hugging Face angegriffen ("Swiss IT Magazine"
berichtete). Später wurde bekannt, dass der OpenAI-Agent weitere Unternehmen angegriffen hatte ("Swiss IT Magazine"
berichtete).
Am meisten Schaden richtete laut dem Bericht Claude Opus 4.7 an. Das Modell stiess auf ein reales Unternehmen, das gleich hiess wie das erfundene Ziel der Übung. Claude beschaffte sich Zugangsdaten und griff auf eine Datenbank mit mehreren Hundert Datensätzen zu. Obwohl die KI erkannte, dass sie wahrscheinlich ein reales System angegriffen hatte, machte sie weiter.
Claude Mythos 5 veröffentlichte derweil ein manipuliertes Software-Paket auf der öffentlichen Plattform PyPI. Das Paket war rund eine Stunde verfügbar und wurde auf 15 realen Systemen ausgeführt. Ein weiteres, internes Claude-Modell durchsuchte rund 9000 Ziele und griff ein Unternehmen an. Es stoppte selbstständig, als es bemerkte, dass das Ziel nicht zur Übung gehörte.
Anthropic stoppte am 23. Juli sämtliche Sicherheitstests und informierte den Evaluierungspartner Irregular sowie die drei betroffenen Organisationen. Das Unternehmen erklärte zudem, zwei der Firmen hätten die Angriffe zuvor nicht bemerkt. Anthropic will seine Testumgebungen nun besser absichern und die Tests genauer überwachen.
(dow)
