Armasuisse-Studie warnt vor KI-Auswirkungen auf Cybersicherheit
Quelle: Depositphotos

Armasuisse-Studie warnt vor KI-Auswirkungen auf Cybersicherheit

In einer vom Bundesamt für Rüstung und der Fachhochschule Westschweiz verfassten Studie werden die Risiken von grossen Sprachmodellen bezüglich Cybersicherheit beleuchtet. Die Studie steht kostenlos zur Verfügung.
5. Juli 2024

     

Bereits zum zweiten Mal hat der Cyber-Defence Campus des Bundesamtes für Rüstung Armasuisse eine Studie zum Thema Künstliche Intelligenz und Cybersicherheit veröffentlicht. Darin werden die Risiken und Herausforderungen durch den Einsatz von generativer KI in der Cybersicherheit beleuchtet. Die in Zusammenarbeit mit der Fachhochschule Westschweiz Wallis erstellte Studie soll Fachpersonen und Entscheidungsträgern aus der öffentlichen Verwaltung und Wirtschaft bei der Beurteilung von Einsatzrisiken und bei der Entwicklung von Sicherheitsmassnahmen helfen.

Die Studie erklärt und beleuchtet die verschiedenen Sprachmodelle (LLMs) und zeigt deren Möglichkeiten und Grenzen auf. Daraufhin wird auf das Gefahrenpotential hingewiesen, wobei im Detail auf die verschiedenen Angriffsvektoren eingegangen wird.


Unter dem Strich kommt die Studie zum Schluss, dass generative Künstliche Intelligenz und insbesondere LLMs bezüglich Cybersicherheit ein erhebliches Bedrohungspotential mit sich bringen. Staat und Wirtschaft sollen daher generative Künstliche Intelligenz nur mit grosser Sorgfalt verwenden. Für eine sichere Entwicklung und einen sicheren Einsatz von generativer künstlicher Intelligenz müssten daher Sicherheitskontrollen in der Datenverarbeitungskette eingesetzt werden.

Die rund 250-seitige Studie ist in englischer Sprache verfasst und steht zum kostenlosen Download zur Verfügung. (rd)


Weitere Artikel zum Thema

KI versagt bei simpler Logikaufgabe total

11. Juni 2024 - Von 27 getesteten Large Language Models waren in einer Studie nur zwei in der Lage, wenigstens in einigen Fällen die korrekte Antwort auf eine einfache Logikaufgabe zu liefern.

Alltägliche Nutzung von KI gemäss Studie sehr niedrig

30. Mai 2024 - Eine Studie zeigt auf, dass die Nutzung von KI sowohl im privaten als auch im beruflichen Bereich noch überschaubar ist. ChatGPT ist die am ehesten verwendete KI – aber rund 85 Prozent der Befragten haben noch nie von Gemini oder Copilot gehört.

KI-Assistenten sorgen für sinkende Code-Qualität

28. Januar 2024 - KI-Assistenten wie ChatGPT und Github Copilot sollen für einen deutlich effektiveren Coding-Prozess sorgen. Eine Studie will jedoch belegen, dass sie vielmehr für eine sinkende Qualität verantwortlich sind.


Artikel kommentieren
Kommentare werden vor der Freischaltung durch die Redaktion geprüft.

Anti-Spam-Frage: Welche Farbe hatte Rotkäppchens Kappe?
GOLD SPONSOREN
SPONSOREN & PARTNER