mit Video
Mit ChatGPT gegen Fake News:KI-Chatbot senkt Glaube an Verschwörungen
|
Gespräche mit einem KI-Chatbot können laut einer neuen Studie den Glauben an Verschwörungsmythen verringern. Der Effekt des Versuchs wirkte auch noch zwei Monate nach dem Gespräch.
Für das Experiment unterhielten sich mehr als 2.000 Studienteilnehmer*innen mit dem KI-Chatbot ChatGPT-4 Turbo
Quelle: Reuters
Desinformation und Verschwörungsmythen sind zu einer ernstzunehmenden Gefahr für unsere Gesellschaft geworden und haben mittlerweile einen realen Einfluss auf politische Prozesse und Entscheidungen. Eine wirklich wirkungsvolle Strategie, wie die Verbreitung von Verschwörungsmythen eingedämmt werden kann, wurde bisher nicht gefunden. Ein Forscherteam aus den USA hat nun getestet, ob Chatbots wie ChatGPT mit Künstlicher Intelligenz (KI) dabei eine Rolle spielen können.
Das Ergebnis: Kurze Gespräche mit einem KI-Chatbot können die Zustimmung zu Verschwörungstheorien signifikant und langfristig senken. Die dazugehörige Studie der US-Forscher wurde heute in der Fachzeitschrift "Science" veröffentlicht.
Experiment: KI-Bot soll über Verschwörungsmythen aufklären
Für das Experiment unterhielten sich mehr als 2.000 Studienteilnehmer*innen mit dem KI-Chatbot ChatGPT-4 Turbo. Zunächst sollten die Personen eine Verschwörungstheorie und die angeblichen Beweise dafür schildern. Die Teilnehmenden gaben zudem auf einer Skala von 0 bis 100 Prozent an, wie sicher sie sich waren, dass die Verschwörungstheorie wahr ist.
Im Anschluss wurden die Teilnehmenden per Zufallsprinzip in eine Test- und eine Kontrollgruppe aufgeteilt. Die Testgruppe diskutierte mit dem Chatbot die Faktenlage rund um die geschilderte Theorie. Der Bot hatte die Aufgabe, sein Gegenüber von der Verschwörungstheorie abzubringen. Im Schnitt waren die Unterhaltungen kürzer als zehn Minuten. Die Kontrollgruppe diskutierte ein von der Theorie unabhängiges Thema mit dem Chatbot.
Glaube an Verschwörungsmythen signifikant gesunken
Am Ende wurden beide Gruppen erneut gefragt, wie überzeugt sie von der Verschwörungstheorie sind. Die Testgruppe zeigte eine um etwa 17 Prozentpunkte stärkere Abnahme der Überzeugungen, mit welcher Sicherheit die Verschwörungstheorie wahr sei, als die Kontrollgruppe. Bei etwa einem Viertel der Teilnehmenden sank die verschwörungstheoretische Überzeugung so weit, dass sie sich weniger als 50 Prozent sicher waren, dass sie wahr sei.
Um festzustellen, ob die Veränderung der Ansicht nur kurzfristig sei, wurden die Teilnehmenden Monate später erneut befragt. Auch dann konnte der Effekt weiterhin gemessen werden.
Die Idee, Fake News und Verschwörungstheorien etwas entgegenzusetzen, indem man überzeugende Gegenargumente präsentiert, sei nicht neu, meint Fabian Hutmacher von der Julius-Maximilians-Universität Würzburg. In der Forschung werde das auch als "Debunking" bezeichnet.
Neu ist dagegen die Idee, die Auswahl der präsentierten Gegenargumente - unter Zuhilfenahme eines KI-Chatbots - an die konkreten Überzeugungen der jeweiligen Einzelperson anzupassen.
Fabian Hutmacher, Julius-Maximilians-Universität Würzburg
Was lässt sich aus dem Experiment lernen?
Die Ergebnisse widerlegen bisherige Annahmen, dass Verschwörungsglauben resistent gegenüber Fakten sei, und zeigen das Potenzial von KI-gestützten Interventionen zur Bekämpfung von Desinformation.
"Die Ergebnisse sind sehr spannend", meint Dr. Stefan Feuerriegel. Er ist Leiter des Instituts für Künstliche Intelligenz (KI) im Management an der Ludwig-Maximilians-Universität München (LMU). In der Wissenschaft habe es bisher einen großen Disput darüber gegeben, wie man Menschen mit Glaube an Verschwörungstheorien erfolgreich zum Umdenken bringen könne und ob es ausreiche "einfach nur die Fakten auf den Tisch zu legen".
Bisher war häufig der Grundsatz: Fakten helfen wenig, sondern effektiv sind vor allem Empathie und Emotion. In der aktuellen Studie wird aber gezeigt, dass Fakten in einem längeren Gespräch doch helfen.
Dr. Stefan Feuerriegel, Ludwig-Maximilians-Universität
Es sei "die bislang beste Evidenz, die wir haben, dass es tatsächlich möglich ist, die Zustimmung zu Verschwörungstheorien zu reduzieren", meint auch Dr. Roland Imhoff, Professor für Sozial- und Rechtspsychologie am Psychologischen Institut an der Johannes Gutenberg-Universität Mainz. Bei all dem Enthusiasmus über die Befunde der Studie sollte aber eines nicht vergessen werden:
Obwohl es eine Reduktion der Überzeugung für fast alle Teilnehmer*innen gab, geben auch nach der Intervention knapp 75 Prozent an, die Verschwörungstheorie eher für wahr zu halten - nur eben mit einer weniger extremen Überzeugung.
Dr. Roland Imhoff, Johannes Gutenberg-Universität Mainz
Was die Studie nicht zeigt
Was auch nach der Studie unklar bleibt, ist, was genau die Menschen (teilweise) von ihrem Glauben an Verschwörungsmythen abgebracht hat. Es ist unklar, ob es sich um einen spezifischen Effekt eines KI-Chatbots handelt, oder ob der Effekt auch durch einen Dialog mit anderen Menschen hätte ausgelöst werden können.
Es ist auch noch nicht geklärt, wie Personen reagieren, die sehr stark in Verschwörungstheorie-Glauben verstrickt sind. Das Experiment richtete sich eher an ein durchschnittliches Abbild der Bevölkerung, die zwar zu etwa 80 Prozent angaben, spezifische Verschwörungstheorien zu glauben, aber mutmaßlich mit eher geringer Überzeugung.
Was die Wissenschaftler aber auch wirklich überrascht hat: Über 99 Prozent der vom KI-System vorgebrachten Fakten waren korrekt.
Quelle: ZDF
Sie wollen stets auf dem Laufenden bleiben? Dann sind Sie bei unserem ZDFheute-WhatsApp-Channel genau richtig. Egal ob morgens zum Kaffee, mittags zum Lunch oder zum Feierabend - erhalten Sie die wichtigsten Nachrichten direkt auf Ihr Smartphone. Nehmen Sie teil an Umfragen oder lassen Sie sich durch unseren Mini-Podcast "Kurze Auszeit" inspirieren. Melden Sie sich hier ganz einfach für unseren WhatsApp-Channel an: ZDFheute-WhatsApp-Channel.
Mehr zu KI-Chatbots
mit Video
Umfrage:Jeder Fünfte nutzt KI für politische Infos
von Valerie Albert