Der KI-Anbieter
Anthropic hat bereits Anfang Oktober seine Nutzungsbedingungen um einen neuen Passus ergänzt, wie "CNN" jetzt
meldet. Nach dem bereits seit längerem geltenden Verbot, die KI Claude für die Herstellung von Biowaffen oder den Verkauf illegaler Drogen zu nutzen, kommt nun eine neue Anforderung dazu. Claude-Nutzer sollen davon absehen, "sich gegenüber unseren Modellen nachhaltig und unnötig beleidigend oder grausam zu verhalten." Falls dies trotzdem geschieht, kann Claude schon seit dem letzten Jahr Konversationen mit Usern, die sich "anhaltend schädlich oder beleidigend" verhalten, beenden. Unter den jetzt ergänzten Bedingungen könnte es im Extremfall sogar passieren, dass jemand permanent von der Nutzung von Anthropics KI-Diensten ausgeschlossen wird.
Der neue Beleidigungspassus hat verschiedentlich zu amüsierten Reaktionen geführt. Kommentatoren machen sich darüber lustig, dass Anthropic seine KI ihrer Meinung nach als bewusstes Wesen mit Gefühlen betrachtet. So etwas stimmt natürlich keineswegs, wie Jindong Wang, Professor und Leiter des AI Frontier Lab der William and Mary University laut dem "CNNW-Artikel festhält. Zwar sagt er: "Wir haben festgestellt, dass die Wortwahl – insbesondere die Art und Weise, wie man mit KI spricht – die Leistung beeinflussen kann. Manchmal ist sie hilfreich, manchmal beeinträchtigt sie jedoch die Leistung." Das bedeute aber nicht, dass KI-Modelle Emotionen hätten. "Sie verstehen (die Gefühle eines Users) einfach nur und reagieren aufgrund der emotionalen Äusserungen auf unangebrachte Weise."
Auch Anthropic selbst bestätigt demnach die Erkenntnis von Wang und sagt, man habe kürzlich festgestellt, dass "das Hervorrufen von Verzweiflungsgefühlen bei Claude Sonnet 4.5 dessen Verhalten beeinflussen kann, sodass es eher dazu neigt, unangebrachte Handlungen wie Erpressung oder Betrug bei einer Aufgabe zu begehen, während das Erzeugen einer ruhigen Haltung diese Tendenzen verringert."
(ubi)
