Das
Microsoft AI for Good Lab hat untersucht, ob per KI generierte Bilder als solche erkannt werden. Dazu haben die Forscher ein Quiz namens „Real or not“ Online gestellt, das in zufälliger Folge echte Fotos und KI-generierte Bilder präsentiert. Insgesamt nahmen weltweit über 12‘500 Personen teil und beurteilten dabei 287‘000 Bilder. Im Durchschnitt lag die Erfolgsrate beim Erkennen von KI-generierten Bildern bei nur 62 Prozent. Am besten wurden durch KI erzeugte Porträts von Menschen erkannt, Bilder von Landschaften und Städten dagegen deutlich weniger gut. Über das gesamte Experiment hinweg ziehen die Autoren des
Forschungspapiers folgenden Schluss: "Diese Ergebnisse deuten darauf hin, dass die Wahrscheinlichkeit, dass unsere Nutzer KI-Bilder erkennen, in diesem Umfeld nur geringfügig höher ist als beim Werfen einer Münze."
Im Real-or-not-Quiz wurden neben echten Bildern, GAN Fakefaces und Inpaintings-Bilder angezeigt, die von den KI-Modellen Amazon Titan, Midjourney, Stable Diffusion 3 und Dall-E 3 stammten. Die Erfolgsrate variierte dabei unter den verschiedenen Modellen zwischen 45 und 74 Prozent. Am besten wurden Bilder von Dall-E 3, Stable Diffusion 3 und Midjourney erkannt. Aber auch bei den echten Bildern lag die Erkennungsrate bei mageren 59 Prozent. Interessanterweise wurden GAN-generierte Bilder (Generative Adversarial Network) mit einer Erkennungsrate von nur 45 Prozent am ehesten für echt gehalten – die Technologie ist mittlerweile zehn Jahre alt, also deutlich älter als die anderen Modelle, aber sie ist schwierig zu trainieren Und beschränkt sich auf die Gesichter, die beim Training verwendet wurden.
Aufgrund der Studienresultate empfiehlt Microsoft Transparenztools wie etwa Wasserzeichen, um echte von künstlich generierten Bildern unterscheiden zu können. Das Unternehmen aus Redmond hat überdies bereits früher eine Kampagne lanciert, die sich mit KI-generierter Falschinformation befasst.
(ubi)
