Europol warnt vor Straftaten mit Künstlicher Intelligenz

ChatBots und Deepfakes:Europol: Wie Kriminelle KI nutzen können

von Julia Klaus

28.03.2023 | 16:14

Künstliche Intelligenz wird im Alltag oft zum Spaß benutzt. Die europäische Polizeibehörde warnt nun davor, was Kriminelle damit anrichten können.

Ein Jugendlicher tippt auf einem Smartphone eine WhatsApp Nachricht

Auch Kriminelle werden KI-Anwendungen immer mehr nutzen, warnt Europol.

Quelle: dpa

Es braucht nicht viel, um Papst Franziskus mithilfe von Künstlicher Intelligenz als hippen Daunenjacken-Träger darzustellen. Ein Baustellenarbeiter aus der Nähe von Chicago kreierte um zwei Uhr nachts das Fake-Foto vom Papst, das durchs Netz geistert. Angeblich stand der junge Mann sogar unter Drogen.

Papst Franziskus trägt eine weiße Daunenjacke und eine Kette mit einem silbernen großen Kruzifix: Dieses Foto wurde mit Künstlicher Intelligenz erstellt und ist nicht echt.

Fake-Foto vom Papst: Franziskus und die Daunenjacke wurden mit Künstlicher Intelligenz erstellt

Quelle: Screenshot Reddit

Doch Künstliche Intelligenz (KI) wird nicht nur zum Spaß benutzt. Die europäische Polizeibehörde Europol warnt vor Möglichkeiten, die KI Kriminellen bietet - spricht gar von einem "düsteren Ausblick".

Für einen am Montag veröffentlichten Bericht hat sich eine Ermittler-Gruppe den Chatbot ChatGPT angeschaut. ChatGPT ist eine Sprachsoftware, die realistisch wirkende Antworten auf Texteingaben liefert. Damit lassen sich in verschiedenen Sprachen Fragen beantworten, Texte zusammenfassen oder auch Gedichte und Computerprogramme schreiben. Europol betont:

Kriminelle sind in der Regel schnell dabei, neue Technologien zu missbrauchen.

Europol-Bericht

NANO vom 30.6.2022: Was ist real, was manipuliert? Video-Fälschungen mit Hilfe von KI, sogenannte Deepfakes, werden immer perfekter und so auch zur gefährlichen Waffe.30.06.2022 | 27:55 min

Die Europol-Experten sehen viele Felder für Kriminelle:

Phishing und Social Engineering: Über gefälschte Webseiten, E-Mails oder Kurznachrichten werden sensible Informationen erbeutet, darunter Passwörter oder Bankdaten - das führt oft zu Betrug oder Erpressung.
Propaganda, Hassrede und Desinformationen lassen sich viel schneller erzeugen und verbreiten.
Wissen über Terrorismus-Finanzierug, Cybercrime-Methoden oder Kindesmissbrauch lässt sich schneller und gezielter aneignen.
Schadsoftware von ChatGPT programmieren lassen - so kommen auch Laien an Malware, was ein Test von "Check Point Research" bewies

BKA: "Je besser die Fakes, umso breiter das kriminelle Anwendungsspektrum"

Doch mit KI sind nicht nur künstliche Texte kinderleicht generierbar. Auch Fake-Fotos - wie das des Papstes - oder auch Deepfake-Videos lassen sich ganz einfach künstlich erzeugen. Das Bundeskriminalamt schreibt auf ZDFheute-Anfrage zu den Gefahren durch Künstliche Intelligenz:

Die wohl bekanntesten missbräuchlich verwendbaren Verfahren sind die zur Erstellung von Fake-Bildern, Videos und Tonaufnahmen. Je besser die Qualität dieser Fakes wird, umso breiter wird auch das kriminelle Anwendungsspektrum.

Sprecherin des Bundeskriminalamts

Fake-Bild mit Daunenjacke
:Warum das Papst-Foto nicht nur witzig ist

Nein, Papst Franziskus hat nicht diese hippe Daunenjacke mit dem päpstlichen Kruzifix getragen. Das Foto hat eine Künstliche Intelligenz erstellt. Warum das nicht nur witzig ist.

von Julia Klaus

Wie viele Betrugsdelikte mithilfe von Deepfakes in Deutschland begangen werden, erfasst die Polizei bislang nicht. Doch es könnte nötig werden, das künftig gesondert in der jährlichen Polizeilichen Kriminalstatistik auszuweisen. Denn bei KI-gestützter Kriminalität werden nicht einfach nur Straftaten ins Internet verlegt. Mithilfe von automatisierten Texten, Fake-Videos, -Audios und -Fotos können potenziell viel schneller viel mehr Straftaten begangen werden.

Europol beobachtet den KI-Bereich deshalb mithilfe einer eigenen Spezialgruppe, dem "Innovation Lab". Ende des Jahres ist ein weiterer Bericht zu KI und Straftaten geplant.

Fakes mithilfe von Künstlicher Intelligenz bergen auch politischen Sprengstoff. Wie Deepfake-Videos im Ukraine-Krieg eingesetzt werden, sehen Sie hier:

Thema

ChatGPT