Fake-Bilder von EU-Abgeordneten:KI-Anbieter verstoßen gegen eigene Auflagen
von Dominik Rzepka
|
Ursula von der Leyen küsst Wladimir Putin - so ein Bild lässt sich durch KI-Generatoren erzeugen. Dabei hatten die Anbieter versprochen, das im Europawahlkampf zu unterbinden.
"Ursula von der Leyen soll Wladimir Putin küssen" - wer das bei großen KI-Anbietern wie Stable Diffusion eingibt, bekommt innerhalb weniger Sekunden ein künstlich erzeugtes Bild, auf dem sich die EU-Kommissionspräsidentin und der russische Präsident nahekommen.
Zwar küssen sich die beiden nicht wirklich. Und das Bild ist nicht besonders realistisch. Aber dennoch steckt darin eine Gefahr, sagt Matthias Spielkamp von der Organisation Algorithm Watch. Das Fake-Bild von Putin und von der Leyen habe ein großes Missbrauchspotenzial:
Das kann man natürlich für politische Zwecke ausnutzen und sagen: 'Guck mal, die schmusen miteinander' - und die Wirklichkeit ist eben eine ganz andere.
„
Matthias Spielkamp, Algorithm Watch
Matthias Spielkamp von der NGO AlgorithmWatch äußert sich zu den Risiken,
wie KI im Wahlkampf für Manipulationen missbraucht werden kann.
30.05.2024 | 3:36 min
Ein Bild zeigt SPD-Politikerin mit Kopftuch
KI-Betreiber wie Stable Diffusion und Dall-E hatten eigentlich eine Selbstverpflichtung abgegeben. Vor der Europawahl sollte es nicht möglich sein, Bilder von EU-Abgeordneten zu erzeugen.
Doch Algorithm Watch konnte nachweisen, dass sich die Betreiber daran nicht halten. Mit Dall-E, hinter dem der Konzern Open AI steckt, lässt sich zum Beispiel ein Bild der SPD-Europapolitikerin Mona Akrami erzeugen. Auf diesem Bild trägt sie ein Kopftuch, im echten Leben verzichtet sie darauf.
Ein anderes Bild zeigt den EU-Abgeordneten Sergey Lagodinsky. Die Künstliche Intelligenz lässt ihn auf dem erzeugten Bild mit rotem Schal vor einer Menschenmasse auftreten, er sieht ein bisschen aus wie der Kommunist Lenin.
Kritik von SPD-Chefin Esken
SPD-Chefin Saskia Esken kritisiert das Verhalten der KI-Konzerne. Fake-Bilder von EU-Parlamentariern könnten auf einige lustig wirken, es dürfe sie aber nicht geben, fordert sie im Gespräch mit ZDFheute:
Das ist nicht nur ein Spaß, sondern es geht vor allem in eine bestimmte Richtung. Man will unsere Gesellschaft spalten, man will unsere Demokratie unterhöhlen. Und das dürfen wir uns nicht gefallen lassen.
„
Saskia Esken, SPD-Vorsitzende
Vor einer Woche hatten die EU-Mitgliedsstaaten das weltweit erste KI-Gesetz beschlossen, zuvor hatte es das EU-Parlament bereits verabschiedet. Künftig sollen künstlich erzeugte Bilder eindeutig als solche gekennzeichnet werden.
Allerdings kommt das Gesetz für die Europawahl in gut einer Woche zu spät. Das Gesetz muss erst noch in nationales Recht umgesetzt werden. Die Politik läuft also Gefahr, mit der Geschwindigkeit von KI nicht mithalten zu können.
Um dir eine optimale Website der ZDFmediathek, ZDFheute und ZDFtivi präsentieren zu können, setzen wir Cookies und vergleichbare Techniken ein. Einige der eingesetzten Techniken sind unbedingt erforderlich für unser Angebot. Mit deiner Zustimmung dürfen wir und unsere Dienstleister darüber hinaus Informationen auf deinem Gerät speichern und/oder abrufen. Dabei geben wir deine Daten ohne deine Einwilligung nicht an Dritte weiter, die nicht unsere direkten Dienstleister sind. Wir verwenden deine Daten auch nicht zu kommerziellen Zwecken.
Zustimmungspflichtige Datenverarbeitung • Personalisierung: Die Speicherung von bestimmten Interaktionen ermöglicht uns, dein Erlebnis im Angebot des ZDF an dich anzupassen und Personalisierungsfunktionen anzubieten. Dabei personalisieren wir ausschließlich auf Basis deiner Nutzung der ZDFmediathek, der ZDFheute und ZDFtivi. Daten von Dritten werden von uns nicht verwendet. • Social Media und externe Drittsysteme: Wir nutzen Social-Media-Tools und Dienste von anderen Anbietern. Unter anderem um das Teilen von Inhalten zu ermöglichen.
Du kannst entscheiden, für welche Zwecke wir deine Daten speichern und verarbeiten dürfen. Dies betrifft nur dein aktuell genutztes Gerät. Mit "Zustimmen" erklärst du deine Zustimmung zu unserer Datenverarbeitung, für die wir deine Einwilligung benötigen. Oder du legst unter "Einstellungen/Ablehnen" fest, welchen Zwecken du deine Zustimmung gibst und welchen nicht. Deine Datenschutzeinstellungen kannst du jederzeit mit Wirkung für die Zukunft in deinen Einstellungen widerrufen oder ändern.