geralt / Pixabay.com - Lizenz
Mit KI-Bildgeneratoren, wie Dall-E, Stable Diffusion, Midjourney oder Flux, lassen sich basierend auf einer Texteingabe, dem sogenannten Prompt, und ggf. einem Referenzbild künstlich Bilder erzeugen, die teilweise nur schwer von echten Fotos unterscheidbar sind. Im Folgenden geben wir Ihnen einen Überblick über mögliche Hinweise auf KI-generierte Bilder, die Sie bei der Erkennung unterstützen, sowie Handlungsempfehlungen, wie Sie mit (potentiell) KI-generierten Bildern umgehen sollten.
Die Generatoren haben in den letzten Jahren enorme technische Fortschritte erzielt und sind oftmals über das Internet frei zugänglich. Die Nutzung dieser Dienste bietet vielfältige Chancen und Möglichkeiten. So können zum Beispiel Produktideen, Konzepte oder Diagramme visualisiert sowie passende Grafiken für Präsentationen oder Social-Media-Beiträge erstellt werden. Zudem lassen sich mehrere Varianten des gleichen Bildes, beispielsweise verschiedene Farbvarianten oder Stilrichtungen, erzeugen. KI-generierte Bilder können kreativ erscheinen, weil die KI Bilder anders zusammensetzt als Menschen dies tun.
Für die Nutzung von KI-Bildgeneratoren ist in der Regel kein tiefes technisches Verständnis notwendig. Zudem ist die Zeitersparnis gegenüber der manuellen Erstellung von Bildern mit konventionellen Bildbearbeitungsprogrammen enorm. Daher ergibt sich für die Nutzenden ein hohes Zeit- und Kosteneinsparpotential.
KI-Bildgeneratoren bieten jedoch auch Missbrauchspotential, beispielsweise wenn damit Produktbilder für Fakeshops erstellt werden oder gezielt Bilder generiert werden, die politisch brisant sind und für Desinformationskampagnen in den Sozialen Medien genutzt werden. Auch können solche Bilder für Social Engineering genutzt werden, indem Fake-Profile in sozialen Netzwerken erstellt werden, die Anwenderinnen und Anwender täuschen.
KI-erstellte Abbildungen von Personen können später mit anderen KI-Techniken animiert und in der Folge in realistisch wirkenden Videos genutzt werden. Mit sogenannten „Face-Swapping-Verfahren" lässt sich in Echtzeit das Gesicht einer Person durch das KI-generierte Gesicht ersetzen, sodass es dieselbe Mimik und Gestik zeigt und eine andere Person nachahmt. Beim Social Engineering nutzen Täter mittels solcher Videos menschliche Eigenschaften wie Hilfsbereitschaft, Vertrauen, Angst oder Respekt vor Autorität aus, um Personen geschickt zu manipulieren und sie auf diese Weise zur Preisgabe vertraulicher Informationen, zu Zahlungen oder zur Installation von Schadsoftware zu verleiten.
Gleichzeitig wird es immer schwieriger, echte Bilder von KI-generierten Bildern zu unterscheiden. Die Vielzahl an Generatoren und deren laufende, technische Verbesserung erschweren eine zuverlässige Erkennung von KI-Bildern. Zudem nimmt die Anzahl KI-erzeugter Bilder stetig zu, auch da einige Social-Media-Anbieter die Generierung solcher Bilder in ihre Plattform integrieren.
Es gibt zwar technische Möglichkeiten der Detektion, jedoch handelt es sich hierbei um ein aktives Forschungsfeld und es ist aktuell noch keine Methode bekannt, die zuverlässig Bilder vieler Generatoren erkennt. Daher ist es für Verbraucherinnen und Verbraucher wichtig, Hinweise auf KI-generierte Bilder zu erkennen und Bilder kritisch zu hinterfragen.
Bundesamt für Sicherheit in der Informationstechnik, https://www.bsi.bund.de/DE/Themen/Verbraucherinnen-und-Verbraucher/Info…, In: Pfarrbriefservice.de
