Wer auf Hugging Face nach KI-Modellen sucht und diese Herunterladen will, sieht nun direkt auf der Plattform Hinweise zu möglichen Risiken. Hugging Face ist eine offene KI-Plattform und Community, auf der Entwickler Modelle, Datensätze und zugehörige Dateien veröffentlichen, durchsuchen und herunterladen können. Die Analysen von Virustotal sind neu direkt integriert und erscheinen neben weiteren Scannern. Erkennt ein Scanner eine Datei als unsicher, führt ein Link zum öffentlichen Virustotal-Bericht mit Details.
Die Partner wollen neue Risiken in der KI-Lieferkette früher sichtbar machen.
Laut Virustotal reichen die Bedrohungen von manipulierten Modelldateien und unsicheren Abhängigkeiten bis zu Datenvergiftung und versteckten Hintertüren. Ziel sei es, Probleme früh zu erkennen und nachgelagerte Anwendungen besser zu schützen.
Zur technischen Basis nennt das Unternehmen KI-gestützte Werkzeuge wie Code Insight zum Erklären von Codeverhalten sowie Unterstützung für Modell- und Serialisierungsformate mit Picklescan, Safepickle und Modelscan. Nach Angaben von Virustotal verbindet die Integration die Analysen mit dem AI Hub von Hugging Face, teilt Erkenntnisse breiter in der Community und fügt sich in das Ziel ein, Sicherheitsinformationen und API-Zugriff einfacher zugänglich zu machen.
(dow)
