Potenziell manipulierbar: API-Tokens für KI-Projekte öffentlich zugänglich
Quelle: Lasso Security

Potenziell manipulierbar: API-Tokens für KI-Projekte öffentlich zugänglich

Eine Security-Firma konnte mehr als 1600 API-Tokens abgreifen und sich damit Schreibrechte für teils sehr beliebte KI-Modelle verschaffen. Das Missbrauchspotenzial ist riesig.
6. Dezember 2023

     

Die Sicherheitsspezialisten von Lasso Security, einem 2023 gegründeten Unternehmen, das sich Security für KI-Modelle auf die Fahne schreibt, haben ein bedenkliches Sicherheitsproblem gefunden: Sie haben in öffentlich zugänglichen Repositories 1681 API-Tokens gefunden, mit denen sie in der Lage waren, Zugriff auf Projekte grosser KI-Entwickler zu bekommen. Da auch eine beachtliche Anzahl von Tokens mit Schreibrechten darunter zu finden war, hätten sie damit die entsprechenden KI-Modelle verändern können. Diese werden teilweise von Millionen Nutzern heruntergeladen – ein solcher Eingriff hätte also enorm weitreichende Folgen.


Unter den betroffenen Projekten sind auch grosse Namen wie Meta, Microsoft, Google und Vmware zu finden, zu den Projekten mit Schreibrechten gehörte unter anderem denn auch Metas LLM (Large Language Model) Llama2. Theoretisch hätten Kriminelle also diese LLMs manipulieren können, etwa durch sogenanntes Training Data Poisoning, was laut Lasso Security weitreichende Folgen für die Nutzer haben könnte.
Gefunden wurden die Tokens auf Huggingface, einer mit Github vergleichbaren Plattform für KI-Projekte. Diese sollte laut Lasso selbst ständig nach solchen offenen API-Tokens Ausschau halten, derweil sollten Entwickler mit hard-coded Tokens arbeiten und Best Practices folgen.

Vor der Veröffentlichung der Ergebnisse informierten die Sicherheitsexperten die betroffenen Firmen, von denen die allermeisten sehr schnell reagiert und die API-Tokens entfernt hatten. Der ganze Bericht ist hier einsehbar. (win)


Weitere Artikel zum Thema

Schweizer Hochschulen wollen bei KI gemeinsam an die Weltspitze

28. November 2023 - In einer grossangelegten Initiative und mit Hilfe des CSCS-Supercomputers Alps, der 2024 in Betrieb genommen wird, wollen Schweizer Hochschulen künftig gemeinsam an Künstlicher Intelligenz forschen und an der Weltspitze mitmischen.

Achtzehn Staaten einigen sich auf KI-Sicherheitsrichtlinien

28. November 2023 - Erstmals haben 18 Länder aus Europa, Amerika, Asien und Afrika eine Vereinbarung für Richtlinien für die Entwicklung sicherer KI-Systeme unterzeichnet.

Meta löst das Responsible-AI-Team auf

23. November 2023 - Das Team, welches bei Meta für verantwortungsvolle KI zuständig ist, wird dem generativen KI-Team zugeteilt. Ethik habe dennoch einen hohen Stellenwert für das Unternehmen, wie Meta verspricht.


Artikel kommentieren
Kommentare werden vor der Freischaltung durch die Redaktion geprüft.

Anti-Spam-Frage: Aus welcher Stadt stammten die Bremer Stadtmusikanten?
GOLD SPONSOREN
SPONSOREN & PARTNER