Atlas, der kürzlich vorgestellte KI-Browser von
OpenAI ("Swiss IT Magazine"
berichtete), ist offenbar gespickt mit Sicherheitslücken. Dies haben Sicherheitsexperten schon kurz nach der Veröffentlichung des Browsers festgestellt. So sind Angriffe per Prompt Injection, die der nachgelagerte ChatGPT ohne Kenntnis der Nutzer als legitime Befehle betrachtet und ausführt, ein grosses Problem. Dies allerdings nicht nur im Fall von Atlas, sondern
gemäss einem Bericht von Brave Software auch bei anderen sogenannten KI-Browsern wie Comet vom Perplexity oder der eher unbekannte Fellou Browser.
Ein weiteres gravierendes Problem seien Clipboard-Injection-Angriffe: Mithilfe von in Websites versteckten Aktionen, die Text in die Zwischenablage kopieren und so zum Beispiel den eigentlichen Inhalt mit schädlichen Links überschreiben, können Angreifer den Nutzer unerkannt zu Phishing-Seiten dirigieren. Und auch die KI-Funktion selbst kann als Angriffsmechanismus missbraucht werden, indem Angreifer in Bildern versteckte Befehle unterbringen, die dann bei der Bildanalyse schädliche Befehle ausführen.
Sicherheitsexperten warnen vor KI-Browsern als hochgefährliche Angriffsfläche, wobei die Hauptgefahr darin liegt, dass mit der integrierten KI-Funktionalität die Grenze zwischen Daten und Anweisungen verschwimmt. Ausserdem können die Browser je nach erteilten oder inhärenten Privilegien auf sensible Nutzerdaten zugreifen und gleichzeitig in Kontakt mit nicht vertrauenswürdigen Inhalten geraten. Inzwischen soll der Chief Information Security Officers Dane Stuckey von OpenAI eingeräumt haben, dass Prompt Injection ein ungelöstes Sicherheitsproblem darstellt.
(ubi)
