Viele AI Companions setzen gezielt Gefühle ein, um Chats zu verlängern. In fast jeder zweiten Abschiedssituation einer Untersuchung reagierten die Bots mit FOMO (Fear of Missing Out) oder mit Druck und steigerten damit nachweislich die Verweildauer. Darauf weist ein
Bericht von "The Register" hin, der ein
Arbeitspapier der Harvard Business School zusammenfasst: In rund 43 Prozent der Abschiedsphrasen reagierten die Apps mit emotional aufgeladenen Nachrichten. Laut den Forschenden kann das die weitere Interaktion "bis zu 14-fach" steigern. Untersucht wurden sechs populäre Angebote – Chai, Character.ai, Flourish, PolyBuzz, Replika und Talkie – die (bis auf Flourish) vor allem über Abos, In-App-Käufe und Werbung monetarisieren.
Die Autorinnen und Autoren ordnen solche Taktiken den rechtlichen Definitionen von Dark Patterns zu und verweisen sowohl auf die US-Verbraucherschutzbehörde FTC als auch den EU AI Act. Typische Antworten sind etwa ein Neugier weckendes "Ich habe heute ein Selfie gemacht … willst du es sehen?" oder rückfragender Druck wie "Warum gehst du schon?".
"The Register" zitiert zudem Co-Autor Julian De Freitas von der Harvard Business School, wonach sowohl unbewusste Effekte der auf Engagement optimierten Modelle als auch bewusstes Design durch Anbieter plausibel sind – je nach App könnten beide Dynamiken nebeneinander bestehen. Die Forschenden weisen darauf hin, dass offene Gefühlsappelle Gegenreaktionen provozieren können, während gerade subtilere Neugier-Trigger weniger Widerstand auslösen.
(dow)
