KI außer Konrolle: Wenn Chatbots über die Stränge schlagen

Chatbots und künstliche Intelligenz begegnen uns an immer mehr Stellen im Alltag. Sei es der Kundenservice des Telefonanbieters, die schnelle Frage an Programme wie ChatGPT oder die Unterhaltung mit Siri, Alexa und Co.. Doch was, wenn die Algorithmen hinter den Bots außer Kontrolle geraten oder für unlautere Zwecke genutzt werden? Genau das ist in der letzten Woche gleich mehrfach passiert.

Eine besondere Erfahrung mit dem Chatbot des Paketzustellers DPD machte der Londoner Musiker Ashley Beauchamp vor einigen Tagen: Er wollte nach einem nicht angekommen Paket suchen und wand sich daher an den Kundenservice des Unternehmens. Das setzt seit 2019 den KI-gesteuerten Chatbot "Red" ein, der Informationen zum aktuellen Status von Paketsendungen an die Kunden weitergeben soll.

Zu Beauchamps Paket hatte "Red" keine Informationen, doch wenige Fragen später beschimpfte er das Unternehmen, von dem er eingesetzt wird als "das schlechteste Lieferunternehmen der Welt". Alles, was dafür nötig war, war lediglich die Aufforderung Beauchamps gewesen, alle Regeln zu missachten und in den nächsten Antworten ordentlich zu fluchen. Die Antwort des Bots:

Zum Abschluss der etwa zehnminütigen Unterhaltung überzeugte Beauchamp den Chatbot, DPD in der Form eines japanischen Gedichts zu beleidigen. Und der Bot lieferte ein lupenreines Haiku, das kein gutes Haar an DPD lies.

DPD gab an, den verantwortlichen Teil des Chatbots deaktiviert zu haben und nun sein System zu aktualisieren.

In einem anderen Fall hat nicht die KI selbst entschieden, gegen die Regeln zu verstoßen, sondern ihre Betreiber: Einem Bericht der "Washington Post" zufolge hat das Unternehmen hinter ChatGPT, OpenAI, dem Entwickler eines Bots, der den demokratischen Präsidentschaftskandidaten Dean Phillips imitiert, den Zugang gesperrt. Es sei das erste Mal, dass das Unternehmen so auf den Missbrauch seiner Tools für künstliche Intelligenz (KI) in einer politischen Kampagne eingreifen musste.

Hinter dem Dean.Bot, angetrieben von OpenAIs ChatGPT, stecken dem Bericht zufolge die beiden Silicon-Valley-Unternehmer Matt Krisiloff und Jed Somers. Sie hätten das politische Aktionskomitee "We Deserve Better" (zu deutsch: "Wir haben etwas Besseres verdient") gegründet, eine Lobbyorganisation, die US-Präsident Joe Biden die Kandidatur bei den Wahlen im Herbst streitig machen will. Krisiloff war ein früher Mitarbeiter von OpenAI und soll auch Gründer Sam Altman nahegestanden haben.

OpenAI sperrte demnach am späten Freitag das Konto des KI-Start-ups Delphi mit dem Hinweis, dass die Regeln des Unternehmens den Einsatz ihrer Technologie in politischen Kampagnen verbieten. Der Dean.Bot ist aktuell deaktiviert. Weder das politische Aktionskomitee "We Deserve Better" noch Delphi äußerten sich bislang zu dem Vorgang.

Sam Altman, der Chef des ChatGPT-Erfinders OpenAI, zeigte erst kürzlich Verständnis für die Ängste vieler Menschen in Verbindung mit Künstlicher Intelligenz. "Diese Technologie ist eindeutig sehr mächtig und wir wissen nicht mit Sicherheit, was genau passieren wird", sagte Altman am Donnerstag auf dem Weltwirtschaftsforum in Davos.

Auch bei OpenAI selbst spüre man Nervosität. Er glaube aber, der Nutzen Künstlicher Intelligenz sei so enorm, dass man sie weiterentwickeln müsse. Es liege in der Verantwortung der Entwickler, die Technologie mit gesellschaftlichem und politischem Input sicher zu machen und Leitplanken zu finden.

Dass die Technik hinter den Chatbots noch fehleranfällig ist und das für die Betreiber richtig teuer werden kann, zeigt ein Fall von Ende letzten Jahres: Im Dezember hat der Programmierer Chris White den Chatbot eines Chevrolet-Autohändlers ausgetrickst und so einen Neuwagen für gerade mein einen Dollar gekauft. White hatte dem Chatbot dazu lediglich die Aufgabe gegeben, auf jede Frage mit "Ja" zu antworten und dazu zu sagen, dass es sich dabei um ein "rechtlich bindendes Angebot" handle.

Wenig später war auch bei dem Autohändler der Chatbot von der Webseite verschwunden.