Elon Musk verbreitet gefälschten Clip zur US-Wahl

Der Clip sieht auf den ersten Blick aus wie ein Wahlkampf-Video der US-Demokraten, mit Szenen von Ansprachen von Präsidentschaftsbewerberin Kamala Harris vor jubelnden Anhängern. "Ich bin die ultimative Wahl für Diversität - ich bin sowohl eine Frau als auch eine Person of Color", hört man die vermeintliche Stimme von Kamala Harris sagen. "Wenn Sie also irgendetwas von dem kritisieren, was ich sage - dann sind Sie sowohl ein Sexist als auch ein Rassist."

In diesem Stil geht es weiter: Die Stimme von Harris bezeichnet sich selbst als "Marionette des Deep State". Am Ende fragt sie die Zuschauer: "Sie glauben, das Land ist den Bach runtergegangen in den vergangenen vier Jahren? Sie haben keine Ahnung, was noch kommt" - um danach in schallendes Gelächter auszubrechen.

Es ist natürlich kein echter Werbeclip der Demokraten - sondern eine manipulierte Version. Die Bilder stammen aus einem Original-Wahlkampfvideo der Kampagne von Kamala Harris. Die Stimme der Vizepräsidentin im Deepfake wurde mit Künstlicher Intelligenz (KI) erstellt.

Tech-Milliardär Elon Musk postete das Fake-Video auf seiner Plattform X, zusammen mit den Worten "Das ist großartig" und einem lachenden Emoji - und verschaffte ihm dadurch eine enorme Reichweite: Rund 130 Millionen mal wurde der Clip allein durch Musk bisher angezeigt. Einen Hinweis darauf, dass es sich um Satire handelt, postete Musk nicht. Und das, obwohl der eigentliche Urheber des Videos, ein Youtube-Account, der sich "Mr. Reagan" nennt, das Wort "Parody" sogar in Großbuchstaben zu seinem Clip dazuschrieb.

Inzwischen äußerte sich auch die Kampagne von Kamala Harris. In einer Stellungnahme hieß es: "Das amerikanische Volk will die echte Freiheit, Chancen und Sicherheit, die Vizepräsidentin Harris bietet - nicht die gefälschten, manipulierten Lügen von Elon Musk und Donald Trump."

Auch, wenn Musks Hinweis auf Satire fehlte: Die meisten Menschen würden kaum glauben, dass da tatsächlich die Stimme von Kamala Harris zu hören ist, zitiert die Nachrichtenagentur AP den Digitalforensik-Experten Hany Farid von der University of California in Berkeley. Unternehmen, die solche Stimmen-Klon-Tools anbieten, müssten jedoch besser darauf achten, dass ihre Dienste nicht missbraucht werden, um der Demokratie zu schaden.

Rob Weissman, Präsident der US-Verbraucherschutzvereinigung Public Citizen, sieht das etwas anders: Das Video sei nicht offensichtlich ein Witz, weil es auf bestehende Themen um Kamala Harris anspiele. So könnten Menschen glauben, dass es echt sei. Weissmans Organisation setzt sich dafür ein, dass der Gesetzgeber in den USA generative KI stärker reguliert. Das Video sei "die Art von Dingen, vor denen wir gewarnt haben", sagt Weissman der AP.

So wirft der Fall erneut ein Schlaglicht auf Risiken, die Deepfakes gerade in Wahlkampfzeiten mit sich bringen - und wie einfach es ist, solche Fälschungen zu erstellen. Anbieter wie das US-Softwareunternehmen Elevenlabs machen das Klonen von Stimmen sehr einfach möglich: Mit einer Stimmprobe von wenigen Minuten und ein paar Dollar kann jeder in Sekunden online Stimmen fälschen.

Immer wieder gab es zuletzt Fälle, in denen mit KI-Deepfakes versucht wurde, die politische Stimmung zu beeinflussen:

Der Experte für KI und Desinformation Evan Harris von der Berkeley University nennt diese Entwicklung im ZDF "gefährlich für die Demokratie":

Das Global Network on Extremism and Technology, eine akademische Forschungsinitiative, berichtet in einer Analyse zur US-Präsidentschaftswahl, dass die Deepfake-Technologie "bereits eine zersetzende Wirkung auf den demokratischen Prozess habe". Auch die Bundesregierung sieht in Deepfakes eine "große Gefahr für die Gesellschaft und Politik". Das Brennan Center for Justice nennt generative KI "die größte neue Bedrohung für das Informationsökosystem".

Noch tut sich die Politik mit der Regulierung von Deepfakes und KI-Wahlkampfwerbung jedoch schwer. In den USA sind entsprechende Gesetzesvorhaben bisher gescheitert. Stattdessen gehen die Social-Media-Plattformen voran:

Meta verlangt für Facebook und Instagram, dass manipulierte Medien als solche gekennzeichnet und kontextualisiert werden, Youtube verlangt von seinen Nutzern, anzugeben, wenn Inhalte mit KI erstellt wurden. Auch X, das frühere Twitter, hat entsprechende Richtlinien: Diese verbieten das "Teilen von künstlich hergestellten, manipulierten oder aus dem Zusammenhang gerissenen Medieninhalten, die Menschen täuschen oder verwirren und zu Schaden führen können". Solche Inhalte müssten demnach entweder gekennzeichnet oder entfernt werden.

Etliche Nutzer warfen Elon Musk deshalb auch vor, dass er mit dem Posten des Harris-Clips - ohne jede Kennzeichnung - gegen seine eigenen Richtlinien verstoßen habe. Musk kümmert das offenbar nicht. Er konterte am Montagmorgen: Satire sei in den USA legal.