Mit KI lassen sich sogenannte Deepfakes erzeugen. Diese Bilder, Videos und Audios sind kaum noch von echten zu unterscheiden. Die Technologie wird immer besser. Solche Desinformationen sind gefährlich, sie können bei Wahlen Verlierer zu Siegern machen.
Die Reporterinnen Greta Buschhaus und Marlene Halser verfolgen die Spur eines KI-Fakes, der auf Demonstrationen in Deutschland mehrfach aufgetaucht ist. Vor allem bei Aufmärschen sogenannter Querdenker. Anhand dieser Spurensuche zeigen sie, wie solche Inhalte erstellt werden können und wie sie sich rasant verbreiten.
Künstliche Intelligenz ist Segen und Fluch zugleich. In der Industrie, der Forschung und in vielen anderen Lebensbereichen lassen sich mithilfe künstlicher Intelligenz ganz neue Erkenntnisse gewinnen, viele zum Wohle der Menschheit.
Doch die Entwicklung hat auch ihre Schattenseiten: Bilder und Stimmen lassen sich manipulieren. Da spricht beispielsweise der Bundeskanzler in den sozialen Netzwerken zur Bevölkerung, mit seiner Stimme und mit seinem Gesicht, aber keines seiner Worte ist wahr. Inzwischen fällt es selbst Experten schwer, zu unterscheiden, ob die Bilder und Stimmen echt sind oder mithilfe künstlicher Intelligenz manipuliert wurden.
Ein anderes Beispiel: In der Slowakei tauchte vor der Parlamentswahl 2023 in den sozialen Netzwerken ein gefälschtes Audio auf. Darin gibt ein im Land populärer Politiker zu, er habe Wahlen beeinflusst, und er wolle die Bierpreise erhöhen. In dem Land mit fünf Millionen Einwohnern hatten sich über 500.000 Menschen die Audiodatei angehört. Am Ende wurde der Politiker nicht gewählt. Experten vermuten, dass die manipulierte Audiodatei das Wahlverhalten beeinflusst haben könnte.
In den USA redet "Die Spur"-Autorin Greta Buschhaus mit David Evan Harris. Er ist Professor an der renommierten Berkeley-Universität und der Experte für die Risiken künstlicher Intelligenz. Er warnt: "Die Demokratie kann ohne eine grundlegende Idee von Wahrheit und Fakten und ohne eine Medieninfrastruktur, die uns hilft, die Welt um uns herum zu verstehen, nicht funktionieren."
Das Problem hat auch die deutsche Bundespolitik erkannt. Tabea Rößner von den Grünen ist die Vorsitzende des Digitalausschusses im Deutschen Bundestag. Sie sagt, inzwischen habe man festgestellt, dass die Risiken für die Demokratie durch Manipulationen eben "sehr, sehr hoch" seien.
Das Europäische Parlament hat inzwischen ein sogenanntes KI-Gesetz verabschiedet. Darin wird die KI, die dazu in der Lage ist, das Verhalten der Wähler zu beeinflussen, als "Hochrisikokategorie" eingestuft. Mit dem neuen Gesetz will man die Gefahren eindämmen. So weit, so gut – das Problem ist nur: Das Gesetz tritt erst in zwei Jahren in Kraft.
Mehr unter https://diespur.zdf.de
Stab
- Kamera - Tobias Winkel