MerklisteSuche
    Politik
    Deutschland

    KI-Anbieter verstoßen gegen eigene Auflagen

    Fake-Bilder von EU-Abgeordneten:KI-Anbieter verstoßen gegen eigene Auflagen

    Dominik Rzepka
    von Dominik Rzepka
    |

    Ursula von der Leyen küsst Wladimir Putin - so ein Bild lässt sich durch KI-Generatoren erzeugen. Dabei hatten die Anbieter versprochen, das im Europawahlkampf zu unterbinden.

    Illustration: KI - ChatBot - ChatGPT - Mobile Apps
    Mit Hilfe großer KI-Anbieter können Fake-Bilder von EU-Abgeordneten erzeugt werden. Dabei hatten einige Betreiber versprochen, das während des Europawahlkampfs zu unterbinden.29.05.2024 | 2:22 min
    "Ursula von der Leyen soll Wladimir Putin küssen" - wer das bei großen KI-Anbietern wie Stable Diffusion eingibt, bekommt innerhalb weniger Sekunden ein künstlich erzeugtes Bild, auf dem sich die EU-Kommissionspräsidentin und der russische Präsident nahekommen.
    Zwar küssen sich die beiden nicht wirklich. Und das Bild ist nicht besonders realistisch. Aber dennoch steckt darin eine Gefahr, sagt Matthias Spielkamp von der Organisation Algorithm Watch. Das Fake-Bild von Putin und von der Leyen habe ein großes Missbrauchspotenzial:

    Das kann man natürlich für politische Zwecke ausnutzen und sagen: 'Guck mal, die schmusen miteinander' - und die Wirklichkeit ist eben eine ganz andere.

    Matthias Spielkamp, Algorithm Watch

    SGS Spielkamp
    Matthias Spielkamp von der NGO AlgorithmWatch äußert sich zu den Risiken, wie KI im Wahlkampf für Manipulationen missbraucht werden kann. 30.05.2024 | 3:36 min

    Ein Bild zeigt SPD-Politikerin mit Kopftuch

    KI-Betreiber wie Stable Diffusion und Dall-E hatten eigentlich eine Selbstverpflichtung abgegeben. Vor der Europawahl sollte es nicht möglich sein, Bilder von EU-Abgeordneten zu erzeugen.
    Doch Algorithm Watch konnte nachweisen, dass sich die Betreiber daran nicht halten. Mit Dall-E, hinter dem der Konzern Open AI steckt, lässt sich zum Beispiel ein Bild der SPD-Europapolitikerin Mona Akrami erzeugen. Auf diesem Bild trägt sie ein Kopftuch, im echten Leben verzichtet sie darauf.
    Ein anderes Bild zeigt den EU-Abgeordneten Sergey Lagodinsky. Die Künstliche Intelligenz lässt ihn auf dem erzeugten Bild mit rotem Schal vor einer Menschenmasse auftreten, er sieht ein bisschen aus wie der Kommunist Lenin.
    KI-Apps auf einem Handydisplay
    Mit großer Mehrheit stimmt das EU-Parlament für den AI Act. Das Gesetz ist das erste seiner Art und sieht etwa die Unterteilung von KI-Systemen in verschiedene Risikogruppen vor.13.03.2024 | 2:29 min

    Kritik von SPD-Chefin Esken

    SPD-Chefin Saskia Esken kritisiert das Verhalten der KI-Konzerne. Fake-Bilder von EU-Parlamentariern könnten auf einige lustig wirken, es dürfe sie aber nicht geben, fordert sie im Gespräch mit ZDFheute:

    Das ist nicht nur ein Spaß, sondern es geht vor allem in eine bestimmte Richtung. Man will unsere Gesellschaft spalten, man will unsere Demokratie unterhöhlen. Und das dürfen wir uns nicht gefallen lassen.

    Saskia Esken, SPD-Vorsitzende

    Vor einer Woche hatten die EU-Mitgliedsstaaten das weltweit erste KI-Gesetz beschlossen, zuvor hatte es das EU-Parlament bereits verabschiedet. Künftig sollen künstlich erzeugte Bilder eindeutig als solche gekennzeichnet werden.
    Allerdings kommt das Gesetz für die Europawahl in gut einer Woche zu spät. Das Gesetz muss erst noch in nationales Recht umgesetzt werden. Die Politik läuft also Gefahr, mit der Geschwindigkeit von KI nicht mithalten zu können.
    Thema
    Künstliche Inelligenz

    Mehr zu Künstlicher Intelligenz