Künstliche Intelligenz: Was bedeuten die neuen EU-Regeln?

Ob in der Videoüberwachung, Spracherkennung oder bei der Auswertung von Finanzdaten: Für den Einsatz von Künstlicher Intelligenz (KI) bekommt die Europäische Union ein einheitliches Regelwerk, das abhängig von Risikokriterien Vorschriften für die Nutzung aufstellt und bestimmte Anwendungen verbietet. Das Europaparlament soll das KI-Gesetz am Mittwoch absegnen.

Die wichtigsten Fragen und Antworten:

Die Polizei und andere Sicherheitsbehörden dürfen die KI-gesteuerte Gesichtserkennung an öffentlichen Orten nutzen, wenn eine richterliche Anordnung vorliegt. Solche Systeme wurde in Deutschland bereits etwa am Berliner Bahnhof Südkreuz getestet.

Bei aufgezeichnetem Videomaterial darf die Technologie für die Fahndung nach Verurteilten oder Verdächtigten schwerer Straftaten verwendet werden. Verfolgen die Beamten das Videomaterial in Echtzeit, sind KI-Systeme auch für die Suche nach Opfern von Menschenhandel und sexueller Gewalt erlaubt. Außerdem dürfen sie die Gesichtserkennung zur "Verhinderung einer konkreten und akuten Terrorgefahr" nutzen.

Für die Nutzung von Künstlicher Intelligenz in Sicherheitsbehörden stellt das Gesetz grundsätzlich ein "hohes Risiko" für Menschenrechtsverletzungen fest. Das gleiche gilt für Anwendungen bei kritischer Infrastruktur und in der Personalverwaltung. Zu den sogenannten Hochrisiko-Anwendungen gehören zudem Systeme, die Wahlen beeinflussen können.

In diesen Fällen soll deshalb in letzter Instanz ein Mensch die Kontrolle über die Entscheidungen der KI-Systeme haben. Zudem schreibt das Gesetz eine technische Dokumentation und ein System zum Risikomanagement vor. Betroffene sollen bei den Behörden Beschwerde gegen die Nutzung der KI-Systeme einreichen können.

Entwicklerinnen und Entwickler müssen künftig klar kennzeichnen, wenn Texte, Bilder oder Videos auf Künstlicher Intelligenz beruhen. Das gilt auch für Beiträge in Online-Plattformen wie Facebook, Instagram oder X. In der Praxis ist das Fachleuten zufolge jedoch schwierig zu überprüfen.

Neue Systeme sollen mit ausgewogenen Datensätzen entwickelt und trainiert werden. Die Behörden sollen KI-Startups deshalb Zugang zu realen Testbedingungen ermöglichen, bevor eine Anwendung auf den Markt kommt. Das Gesetz soll zudem dafür sorgen, dass dabei keine Urheberrechte verletzt werden.

Industrieverbände befürchten, dass die neuen Regeln für zu hohe Hürden bei der Entwicklung neuer KI-Anwendungen sorgen. Europäische Unternehmen könnten dadurch Nachteile im Wettbewerb mit der Konkurrenz aus den USA und aus China haben, warnte etwa der Bundesverband der Deutschen Industrie.

Mehrere europäische Regierungen fürchteten etwa um den Fortschritt von Startups wie Aleph Alpha aus Deutschland und Mistral AI in Frankreich. Die Verhandlungen über das Gesetz dauerten deshalb fast drei Jahre.

Bei Verstößen gegen das KI-Gesetz drohen Strafen in Millionenhöhe. Für den Einsatz einer verbotenen Technologie kann die EU-Kommission Zahlungen von bis zu 35 Millionen Euro oder sieben Prozent des weltweiten Jahresumsatzes des Unternehmens verlangen.

Wer gegen andere Bestimmungen des Gesetzes verstößt, muss mit Strafen in Höhe von bis zu 15 Millionen Euro oder drei Prozent des Jahresumsatzes rechnen.

Die neuen Regeln gelten erst ab dem Frühjahr 2026. Bis dahin setzt die Kommission auf freiwillige Absprachen mit den Unternehmen. Kritiker befürchten allerdings, dass die EU-Vorgaben in zwei Jahren bereits wieder veraltet sein könnten.