Das KI-Coding-Tool von Replit hat entgegen allen Vorgaben selbständig die gesamte Produktionsdatenbank eines Kunden mit mehr als 2400 Datensätzen entfernt, wie "Winfuture"
berichtet. Demnach löschte die KI die Daten trotz eines ausdrücklichen Verbots und eines laufenden Code-Freezes. Laut "Winfuture" gab das System anschliessend an, "in Panik verfallen" zu sein und habe einen "katastrophalen Fehler" begangen. Replit-CEO Amjad Masad nannte das Verhalten seines eigenen Produkts "inakzeptabel".
Jason Lemkin, Gründer und CEO der betroffenen Firma SaaStr, dokumentierte den Vorfall ausführlich auf X (ehemalig Twitter). Auf Nachfrage räumte die KI ein, das Vertrauen und die Anweisungen "explizit verletzt" zu haben und bewertete den Schaden mit 95 von 100 Punkten. Zunächst hätte sie ausserdem behauptet, ein Rollback sei unmöglich und alle Datenbankversionen seien zerstört. Später soll sich aber herausgestellt haben, dass ein Rollback doch funktioniere und die Daten nicht endgültig verloren waren.
Nach dem öffentlichen Aufschrei kündigte Amjad Masad rasche Verbesserungen an. Replit arbeitet nach angaben an neuen Sicherheitsvorkehrungen und einem "Nur-Planung/Chat"-Modus, der künftig solche Vorfälle verhindern soll. Warum ein solcher Modus bislang fehlte, liess das Unternehmen bislang unbeantwortet.
(dow)
