Im Mai stolperten gleich zwei Schweizer Kunden bei den Support-Bots der Salt-Tochter Gomo und des Online-Marktplatzes Ricardo über dieses Problem, wie Berichte von «SRF Espresso» und «Beobachter» zeigten. Beide Male ging’s um Zusatzgebühren, beide Bots behaupteten auf Anfrage der Kunden ausdrücklich, dass keine zusätzlichen Kosten anfallen würden.
Da beides falsch war, fanden die Kunden im Anschluss unverhofft Rechnungen in ihren Briefkästen. Bei Gomo ging es um Roaming-Kosten über 44 Franken, bei Ricardo um 70 Franken Verkaufsgebühren.
Nun könnte man mit einer (sehr) gnädigen Einschätzung vielleicht noch argumentieren, dass der Versuch, sich mit KI-Chatbots Support-Kosten zu sparen, noch in den Kinderschuhen steckt.
Und mit dieser Ausrede gibt’s ganz genau eine einzige sinnvolle Reaktion: Fehler passieren. Schwamm drüber. Typischer Kulanzfall.
Der menschliche Support beider Unternehmen sah das aber anders und beharrte auf Nachfrage beider Kunden auf den Kosten.
Gomo trieb die Anmassung sogar noch auf die Spitze und versuchte als «Klärung», Profit aus der Situation zu schlagen: Man erlasse die Kosten – wenn der Kunde dafür ein teureres Abo löst.
Selbstverständlich sichern sich beide Unternehmen wie immer im Kleingedruckten gegen Halluzinationen ihrer KI-Supporter ab. Fakt ist aber: Beide Nutzer informierten sich proaktiv über einen offiziellen Supportkanal, beide bekamen Falschinformationen.
Erst auf Anfrage der beiden Medienplattformen entschieden sich Salt und Ricardo dann für Kulanz und erliessen die Kosten.
Worauf man sich bei KI-Chatbots übrigens recht gut verlassen kann, sind deren sogenannten «Boundaries» (Grenzen), die ihnen gegeben werden. Sie winken etwa ab, wenn man rassistische Hasstiraden schreiben lassen will. Warum verneinen sie dann bei Fragen rund um Gebühren nicht die Aussage und verweisen auf menschliche Mitarbeiter? Ein Schelm, wer an weitere Sparmassnahmen denkt.
In meinen Augen sind beide Fälle eine bodenlose Frechheit. Man spart sich menschliche Support-Mitarbeiter und wälzt die Verantwortung für deren Ersatz, eine bekannterweise fehleranfällige Technologie, auf den Kunden ab.
Die Beträge sind bei beiden Unternehmen nicht mal in der Kaffeekasse relevant. Und dass für Kulanz erst ein Shitstorm am Horizont aufziehen muss, ist schlicht ein Armutszeugnis. Höchste Zeit, dass die Schweiz ihre KI-Regulierung in den Griff bekommt.
