Die
Google Threat Intelligence Group (GTIG)
stellt fest, dass KI zunehmend von Cyberkriminellen dazu genutzt wird, neue Bedrohungen zu entwickeln. Im Zug ihrer Untersuchungen haben GTIG-Forschende eine Zero-Day-Schwachstelle in einem beliebten Open-Source-Systemadministrationstool entdeckt, für die nach den Erkenntnissen höchstwahrscheinlich mithilfe von KI ein Exploit entwickelt und in ein Python-Script eingesetzt wurde: "Obwohl wir nicht glauben, dass Gemini verwendet wurde, haben wir aufgrund der Struktur und des Inhalts dieser Exploits hohe Sicherheit, dass der Akteur wahrscheinlich ein KI-Modell genutzt hat, um die Entdeckung und das Weaponizing dieser Schwachstelle zu unterstützen."
Das Script enthalte eine Riesenmenge an für Lernzwecke gedachten Strings wie etwa einen halluzinierten CVSS Score und sei in einem strukturierten, lehrbuchhaften Format gehalten – und dies sei typisch für LLM-Trainingsdaten. Die so erzeugte Sicherheitslücke ermöglicht es, die Zwei-Faktor-Authentifizierung zu umgehen. GTIG hat den Anbieter des betroffenen Tools informiert und arbeitet mit ihm zusammen, um die Schwachstelle verantwortungsvoll offenzulegen. Die Schwachstelle konnte vor einem allfälligen Massenangriff behoben werden. Konkrete Angaben zu den Akteuren und zum Tool macht Google nicht.
(ubi)
