TheDigitalWay / Pixabay.com - Lizenz
Die Technik im Bereich der Erstellung KI-generierter Bilder schreitet schnell voran und die Qualität der Bilder wird zunehmend besser. Es ist hilfreich, sich dessen bewusst zu sein und Bilder kritisch zu hinterfragen, auch wenn man auf den ersten Blick keine Hinweise auf KI-Generierung findet. Achten Sie deshalb auch auf Kennzeichnungen wie Content Credentials von authentischer Stelle, die die Echtheit eines Bildes oder einer Quelle bestätigen können.
In der europäischen KI-Verordnung, die am 1. August 2024 in Kraft getreten ist, wurde festgelegt, dass KI-generierte Bilder in der EU ab August 2025 grundsätzlich als solche zu kennzeichnen sind. Menschen oder Gruppen mit betrügerischen Absichten werden vermutlich dennoch Wege finden, die Kennzeichnungspflicht zu umgehen. Es sind auch heute schon KI-Modelle verfügbar, die auf lokaler Hardware Bilder ohne Kennzeichnung erzeugen können.
Weitere Informationen für Fachexpertinnen und Fachexperten: Die Publikation Detection of Images Generated by Multi-Modal Models wurde innerhalb des BSI-Projekts „RealORender“ durch das Fraunhofer IOSB erstellt und gibt eine Übersicht über den Stand der Technik im Bereich der generativen Bilderzeugung und erklärbaren Deepfake-Detektion (nur auf Englisch verfügbar).
Außerdem diskutiert die englischsprachige Publikation "One Detector to Rule Them All? On the Robustness and Generalizability of Current State-of-the-Art Deepfake Detection Methods", die im Rahmen des BSI-Projekts „SecMedID“ durch das Fraunhofer SIT erstellt wurde, die Robustheit und Generalisierungsfähigkeiten von öffentlich verfügbaren Deepfake-Detektoren, die darauf trainiert sind, vertauschte Gesichter zu detektieren.
