Mit der wachsenden Verbreitung autonomer KI-Agenten, die teilweise selbstständig handeln, entstehen laut
Microsoft neue Sicherheitsrisiken innerhalb von Unternehmen. Die Agents verfügen häufig über weitreichende Berechtigungen, können auf Daten, Anwendungen und Infrastrukturen zugreifen und selbstständig Entscheidungen treffen. Microsoft nutzt in einem aktuellen Blogbeitrag den Begriff "Agentic Insiders".
Security-EVP Hayete Gallot
schreibt: "Leider kann man sich auf Frontier-Modelle, unabhängig von ihrer Herkunft, nicht verlassen." Selbst nicht kompromittierte KI-Agenten seien letztlich nicht vollständig vorhersehbar. Denn KI-Modelle könnten sich an veränderte Situationen anpassen, unerwartete Wege zur Zielerreichung wählen oder mit anderen Agenten zusammenarbeiten.
Zum einen soll das im Sommer 2026 präsentierte Konzept der "Project Perception" helfen. Dieses soll für eine permanente Überwachung und dynamische Begrenzung der Handlungsmöglichkeiten von Agents sorgen. Weiter sollen sogenannte Guardian Agents künftig alle Aktionen der Agents, die sich im Unternehmen bewegen, ständig überwachen und bewerten.
(win)
