Die Möglichkeit, dass sich KI selbstständig machen und dem Menschen damit gefährlich werden könnte, ist real. So sehen das zumindest knapp 1300 Vertreterinnen und Vertreter der namhaftesten KI-Unternehmen.
In einem offenen Brief fordern die KI-Spezialisten daher, das Tempo zu drosseln.
Das Timing des Briefes ist wohl kaum Zufall – unlängst kam es
in der Testumgebung von OpenAI zu einem Schockmoment. Eine Cybersecurity-KI von OpenAI hackte sich im Rahmen eines Tests aus ihrer Sandbox ins offene Internet. Im Anschluss hackte sich der Agent dann in die Umgebung der KI-Plattform Hugging Face. OpenAI bemerkte das nicht einmal, der Agent konnte tagelang wüten, bevor Hugging Face selbst dem Treiben ein Ende setzte.
KI könnte zwar zu einer besseren Zukunft für alle führen, man stehe aber vor einem entscheidenden Meilenstein: Die führenden KI-Unternehmen stünden wohl kurz davor, die KI-Forschung mithilfe von KI zu automatisieren. Wie stark damit die Geschwindigkeit des Fortschritts gesteigert werden könnte, sei aktuell zwar noch unklar. Laut den Unterzeichnern des Briefes besteht jedoch durchaus die Gefahr, "dass sich die Entwicklung dieser Fähigkeiten so rasant beschleunigt, dass wir die daraus resultierenden Systeme nicht mehr verstehen oder kontrollieren können."
Es brauche nun Zeit, um Risiken zu adressieren, Sicherheitsmassnahmen zu entwickeln und die Aufsicht zu verbessern. Der Wettbewerbsdruck, dem sich sowohl Unternehmen als auch Nationen unterworfen sehen, verunmögliche es aber, dass einzelne Akteure die Bremse ziehen. Die Schlussfolgerung: Es braucht internationale Anstrengungen. "Wir fordern die US-Regierung auf, internationale Bemühungen zur Entwicklung der technischen und regulatorischen Instrumente zu unterstützen, die erforderlich sind, um die Entwicklung automatisierter KI gezielt zu steuern", wie der Brief schliesst.
Zu den Unterzeichnenden gehört ein Teil der absoluten Weltspitze im KI-Business: So etwa Dario Amodei (CEO) sowie Jared Kaplan und Jack Clark (Co-Gründer) von
Anthropic, Jakub Pachocki (Chief Scientist) von
OpenAI, Shengjia Zhao (Chief Scientist) von
Meta AI und Shane Legg (Co-Gründer und Chief AGI Scientist) von
Google Deepmind.
(win)
