Anthropic hat
Claude for Chrome in einer Pilotversion für 1000 Abonnenten des Max-Abos freigegeben. Es handelt sich dabei um eine Browser-Erweiterung, die es Claude ermöglicht, im Browser Aktionen in Vertretung des Users durchzuführen. Man könnte C Claude zum Beispiel anweisen, auf Gmail alle E-Mails der letzten paar Monate zu durchforsten, bisher nicht beantwortete Nachrichten zu identifizieren und automatisch nachzufassen. Da eine solche Erweiterung, die "Browser-using AI" bietet, mit Herausforderungen hinsichtlich Sicherheit verbunden ist, möchte das KI-Unternehmen zunächst Erfahrungen mit wenigen Testnutzern machen und deren Feedback zur Resarch Preview von Claude for Chrome einholen.
Bevor die Erweiterung dem breiten Publikum zugänglich werde, müsste man noch gewisse Schwachstellen beseitigen. So könnten Cyberkriminelle via Prompt Injection bösartige Instruktionen innerhalb von Websites, E-Mails oder Dokumenten verstecken, um die KI ohne Wissen des Nutzers zu schädlichen Aktionen zu verleiten. Dies sei keine Spekulation, man habe es in eigenen Tests nachweisen können. Neben Berechtigungen auf Website-Niveau und Aufforderungen zur Bestätigung von Aktionen an den User hat
Anthropic Bereits weitere Sicherheitsmassnahmen in die Erweiterung implementiert. So bleibt der Zugang Websites aus gewissen Hochrisikokategorien wie Finanzdienste, Erwachseneninhalte und raubkopierte Inhalte gesperrt. Darüber hinaus sollen verdächtige Instruktionen und ungewöhnliche Requests für Datenzugriff Automatisch erkannt werden.
(ubi)
