Friedensforscherin Dahlmann :KI-Kriegsführung: Diese zwei Trends gibt es
|
Friedensforscherin Anja Dahlmann sieht mit Blick auf Künstliche Intelligenz zwei große Trends in der Kriegsführung. Sie warnt: Der Mensch könnte die Kontrolle verlieren.
Sehen Sie hier das Interview mit Anja Dahlmann in voller Länge.17.07.2024 | 4:29 min
Schon 2020 waren Drohnen - auch autonome - ein wesentlicher Faktor für den Sieg Aserbaidschans über Bergkarabach. Im Ukraine- und im Gaza-Krieg analysiert Künstliche Intelligenz (KI), beispielsweise das israelische Habsora-System, gesammelte Daten und destilliert aus ihnen mögliche Angriffsziele.
Eine, die sich mit KI-Waffensystemen auskennt, ist Friedensforscherin Anja Dahlmann. Wie wird KI aktuell in der Kriegsführung angewendet und welche ethischen und rechtlichen Fragen gibt es noch zu klären? Dahlmann hat im heute journal Antworten.
Quelle: ifsh.de
... ist seit Oktober 2021 Leiterin des Berliner Büros am Institut für Friedensforschung und Sicherheitspolitik. Sie verfolgt eng den internationalen Gesprächsprozess zu autonomen Waffensystemen im Rahmen der Waffenkonvention der Vereinten Nationen. Entsprechend befasst sich ihre Forschung insbesondere mit dem humanitären Völkerrecht, Rüstungskontrolle, neuen Technologien und den Vereinten Nationen.
Sehen Sie das Interview mit Anja Dahlmann oben in voller Länge oder lesen Sie es unten in Auszügen.
Im Interview mit dem heute journal stellt Dahlmann fest, dass ...
... es zwei große Trends der KI-Kriegsführung gebe
Dass am Ende Maschinen Menschen töten und der Mensch darüber nicht mehr mit entscheidet, sei "eine der größten Sorgen", sagt Dahlmann. Künstliche Intelligenz füge sich in zwei große Trends der Kriegsführung ein.
Zum einen sei das die Vernetzung. In die Cloud würden Daten hochgeladen und blitzschnell ausgewertet, Drohnen-Schwärme würden eingesetzt.
Der zweite Trend sei die Geschwindigkeit. Durch KI könnten militärische Entscheidungen beschleunigt werden, "vom Ziel erkennen bis zum Ziel bekämpfen". Daraus entstünden "ethische, rechtliche und auch Sicherheitsfragen".
Hightech verändert den Krieg in der Ukraine. Auslandsjournal frontlines begleitet ukrainische IT-Experten, die der Armee Technologie liefern.25.07.2024 | 29:00 min
... sich die Folgen schwer vorhersagen lassen
Rechtliche Fragen würden sich zum Beispiel beim "humanitären Völkerrecht" ergeben, sagt Dahlmann. Dort werde zwischen Zivilist*innen und Soldat*innen unterschieden. "Ist noch das Verhältnismäßigkeitsgebot gewahrt und vor allem, welche Entscheidung muss der Mensch eigentlich treffen, um noch rechtlich und ethisch verantwortlich zu sein?", so Dahlmann.
Die Expertin betont aber auch, dass auch jetzt das humanitäre Völkerrecht nicht immer eingehalten würde und es auch nicht darum gehe, die Rolle des Menschen im Krieg zu glorifizieren.
Es geht eben um diese Grundfrage, wie stellen wir trotzdem Verantwortlichkeit her und wie dämmen wir eben diese Risiken, die mit der Technologie einhergehen, ein und können trotzdem gleichzeitig die militärischen Vorteile nutzen.
Anja Dahlmann, Institut für Friedensforschung
Aus ethischer Sicht stelle sich die Frage, "wenn der Mensch als Ziel eigentlich nur noch ein Datenpunkt ist, was ist dann mit der Menschenwürde?" Werde diese vielleicht verletzt?
Aus Sicherheitsperspektive entstünden Eskalationsrisiken durch die erhöhte Geschwindigkeit. "Wo kann dann noch jemand eingreifen, wenn was schief geht? Und was passiert eigentlich, wenn zwei gegnerische autonome Waffensysteme mit KI gegeneinander antreten?" Die Folgen ließen sich "ganz schwer vorhersagen".
Goldgräberstimmung in der Rüstungsindustrie. Auf der Waffenmesse in Paris wurden neue Systeme mit künstlicher Intelligenz von 2.000 Ausstellern vorgestellt. Ein Milliardenmarkt.17.07.2024 | 3:06 min
... der Mensch die Kontrolle über die Kriegsführung verlieren könnte
Im Zusammenhang mit KI in Kriegsgeräten wird oft von einer Art "Oppenheimer Moment" gesprochen. Das Bild sei vielleicht ein bisschen schief, sagt die Expertin.
Aber im Prinzip ist die Sorge, dass man eine Technologie schafft, die sich hinterher nur sehr schwer einfangen lässt und dass der Mensch am Ende die Kontrolle über die Kriegsführung verliert.
Anja Dahlmann, Institut für Friedensforschung
Das sei "eine nicht ganz unbegründete Sorge", aber es gebe durchaus Möglichkeiten einzugreifen. "Nämlich zum Beispiel über Regulierung und über das Auseinandersetzen damit, was menschliche Kontrolle beim Waffeneinsatz sein muss", sagt Dahlmann.
Apple hat seine neue KI-Strategie vorgestellt: Ab Herbst soll jeder Kunde in seinem Gerät eine private Künstliche Intelligenz haben können, die alles mitliest, findet und vorausdenkt.11.06.2024 | 2:37 min
... ein Verbot von KI-Waffensystemen schwierig wird
Ein völliges Verbot von zum Beispiel autonomen Waffensystemen werde schwierig, so Dahlmann. "Da gibt es einen internationalen Verhandlungsprozess, der aber konsensbasiert ist. Das heißt, jeder Staat, der dabei ist, kann ihn auch verhindern und das tun einige Staaten, allen voran Russland, die natürlich gar kein Interesse an so einer Regulierung im Moment haben."
Gleichzeitig finden laut der Expertin aktuell aber "viele Prozesse um verantwortungsvolle Künstliche Intelligenz" statt. Es gebe politische Erklärungen und verschiedene Verständigungsprozesse zwischen Staaten.
"Das heißt, wir haben zumindest zwischen vielen Staaten, auch in der Nato, eine gemeinsame Problementwicklung, ein Problemverständnis und ich habe die Hoffnung, dass da zumindest ein bisschen was bei rumkommt."
Das Interview führte ZDF-Moderatorin Marietta Slomka. Zusammengefasst hat es ZDF-Redakteurin Katharina Schuster.
Aktuelle Meldungen zu Russlands Angriff auf die Ukraine finden Sie jederzeit in unserem Liveblog:
Seit Februar 2022 führt Russland einen Angriffskrieg gegen die Ukraine. Kiew hat eine Gegenoffensive gestartet, die Kämpfe dauern an. News und Hintergründe im Ticker.