Cybersicherheit: KI heizt Bedrohung im Cyberraum laut BSI an

Die Bedrohung durch Cyberkriminelle ist in Deutschland deutlich gestiegen und könnte durch den Missbrauch von KI-Sprachmodellen wie ChatGPT noch weiter anwachsen. Zu diesem Ergebnis kommt das Bundesamt für Sicherheit in der Informationstechnik (BSI) in seinem aktuellen Lagebericht, der den Zeitraum vom 1. Juni 2022 bis zum 30. Juni dieses Jahres abbildet. Die Behörde bilanziert:

Täglich seien durchschnittlich 68 neue Schwachstellen in Softwareprodukten registriert worden - rund 24 Prozent mehr als im Jahr zuvor, heißt es in dem Bericht, der in Berlin vorgestellt wurde. So hätten Cybererpresser beispielsweise zwei Schwachstellen in Filesharing-Produkten ausgenutzt, um Daten zahlreicher Nutzer im In- und Ausland abzugreifen und anschließend mit deren Veröffentlichung zu drohen.

Das BSI warnt, der Einsatz von Künstlicher Intelligenz (KI) berge nicht nur Chancen, sondern auch Risiken, etwa wenn Daten, die zum Anlernen der KI verwendet werden, manipuliert würden. Dies könne beispielsweise geschehen mit dem Ziel, Desinformationskampagnen auszulösen und so die öffentliche Meinung zu beeinflussen.

Zu einer Vervielfältigung von Schwachstellen könne zudem die Verwendung von KI bei der Programmierung beitragen. Außerdem stellten große KI-Sprachmodelle "durch ihren Black-Box-Charakter" eine Schwachstelle an sich dar, mahnt das Bundesamt.

Bei Systemen, in denen die Ausgaben von KI-Sprachmodellen in Handlungen umgesetzt würden, sei es wichtig, dass diese Systeme nur unter menschlicher Kontrolle handeln könnten. Dazu sollten Abfragen eingebaut werden wie etwa "Wollen Sie diese persönlichen Daten wirklich an den Anbieter XY/in den Cloudspeicher übermitteln?" oder "Jetzt kostenpflichtig kaufen/buchen?".

Das BSI stellt seit einiger Zeit fest, dass kriminelle Hacker zunehmend den Weg des geringsten Widerstands wählen und vermehrt Opfer auswählen, die ihnen leicht angreifbar erscheinen. In dem Bericht heißt es:

Zunehmend würden kleinere und mittlere Unternehmen, Landes- und Kommunalverwaltungen sowie Schulen und Hochschulen Opfer sogenannter Ransomware-Attacken.

BSI-Präsidentin Claudia Plattner hob hervor, dass durch Cyberkriminalität hierzulande ein Schaden von 206 Milliarden Euro pro Jahr entsteht, was 43 Prozent des Bundeshaushalts entspreche. "Es reicht nicht, was wir heute tun", sagte Plattner. Es brauche eine große Lösung:

Bundesinnenministerin Nancy Faeser (SPD) betonte bei der Vorstellung des Lageberichts, dass sie dabei sei, die Länder für diese geplante Reform zu gewinnen. Gerade bei einigen größeren Bundesländern habe es anfangs Bedenken gegeben. Sie sei aber optimistisch, dass man zu einer Einigung finden werde, die dann auch im Bundesrat Zustimmung finden werde.