Die neue Prüffunktion in der Gemini-App soll Nutzerinnen und Nutzern helfen, besser zu erkennen, ob ein Bild KI-generiert ist oder nicht.
Laut Google basiert die Erkennung auf SynthID, einer 2023 eingeführten Wasserzeichentechnologie, die unsichtbare Signale in KI-generierte Inhalte einbettet und auch nach Bearbeitungen im Bild erhalten bleibt. Derzeit kann die Gemini-App nur Bilder erkennen, die mit Google AI erstellt oder bearbeitet wurden.
Wer ein Bild prüfen möchte, lädt es in der Gemini-App hoch und stellt eine Frage wie "Wurde dies mit Google AI erstellt?" oder "Ist dies KI-generiert?". Nach Angaben von Google sucht Gemini das Bild dann nach einem SynthID-Wasserzeichen ab und ergänzt diese Prüfung mit eigenen Analysen, um eine Antwort mit kurzen Erklärungen zu liefern. Parallel testet Google SynthID über das Verifizierungsportal SynthID Detector gemeinsam mit Journalistinnen, Forschenden und Medienschaffenden, um KI-generierte Inhalte in verschiedenen Formaten zu kennzeichnen und Bildbereiche hervorzuheben, die mit hoher Wahrscheinlichkeit von einer KI stammen.
Google will die SynthID-Prüfung nach eigenen Angaben Schritt für Schritt ausbauen, zuerst auf weitere Formate wie Audio und Video und auf zusätzliche Produkte wie die Google-Suche. Ausserdem versehe das Unternehmen Bilder, die mit Nano Banana Pro in der Gemini-App, in Vertex AI oder in Google Ads erzeugt werden, mit C2PA-Metadaten, damit klarer erkennbar ist, woher sie stammen und wie sie entstanden sind. Langfristig soll dieser Ansatz auch C2PA-Nachweise anderer Anbieter einbeziehen, sodass sich die Herkunft von Inhalten besser nachverfolgen lässt, selbst wenn sie ausserhalb des Google-Ökosystems erstellt wurden.
(dow)
