Google experimentiert an unterschiedlichen Orten mit KI – und hat sich dabei jüngst einen recht groben Schnitzer geleistet, wie "The Verge"
entdeckt hat. Dabei geht es um die Discover-Funktion, mit der
Google in der Suche einen personalisierten, Social-Media-ähnlichen News-Feed für den Nutzer präsentiert. Dort hat der Suchriese offenbar damit begonnen, die eigentlichen Headlines von News-Artikeln teils mit KI-generierten Alternativen zu ersetzen. Vermutlich sollen sich die KI-veränderten respektive -generierten Titeln mehr Interaktion generieren, es handelt sich also schlicht um KI-Clickbait.
Das Problem: Die KI machte dabei mehrere nachweislich grobe Fehler. In manchen Fällen landeten dabei auch Falschinformationen in den Titeln – beispielsweise, dass die Gaming-Plattform Steam die Preise für die angekündigte Steam Machine publiziert hätte, was schlicht falsch ist. In anderen Fällen kürzte die KI die Titel soweit zusammen, dass sich der Sinn massgeblich veränderte. Ein Titel von "The Verge", der "so nutzen Microsoft-Entwickler KI" lautete, wurde damit kurzerhand zu "Microsoft-Entwickler nutzen KI".
Damit schafft Google gleich mehrere Probleme. Der Microsoft-Titel oben ist schlicht nicht spannend, weil komplett offensichtlich. Der Artikel dürfte über die Discovery-Oberfläche deutlich weniger Klicks generiert haben als mit dem korrekten Titel. Weiter ist der Schritt gewissermassen übergriffig, denn die Leserschaft dürfte intuitiv damit rechnen, dass die Headline vom Medienhaus selbst kommt. Bei Beispielen wie dem Fall mit der Steam Machine oben, wo der Titel schlicht nicht mit dem Inhalt des Artikels übereinstimmt, liegt der Vorwurf nahe, dreisten Clickbait zu betreiben.
Auf Anfrage von "The Verge" betont
Google, dass es sich nur um ein Experiment bei einem kleinen Teil von Discover-Nutzern handelt. Man verfolge das Ziel, den Newsfeed für die User verdaulicher zu machen. Ob automatisierte und dermassen fehleranfällige Headline-Generierung zielführend ist, ist zumindest zweifelhaft. Bleibt zu hoffen, dass es in diesem Fall beim Experimentieren bleibt.
(win)
