Die größte Gefahr ist nicht die KI | Terra-X-Kolumne
Terra X - die Wissens-Kolumne:Die größte Gefahr ist nicht die KI
von Mercedes Bunz
|
Intelligent bedeutet nicht kompetent. Wir Menschen fürchten uns vor der Künstlichen Intelligenz, doch die größten Risiken werden dabei übersehen.
Wenn wir über Künstliche Intelligenz sprechen, ist eine der grundlegendsten Fragen ganz zu Beginn sicher: Ist KI überhaupt intelligent? Ich würde sagen: Zweifellos ist sie das!
Allerdings ist das Dialogsystem ChatGPT auf eine andere und eigene Art intelligent, als wir Menschen uns das normalerweise vorstellen. Sie kann rasend schnell diesen Text korrekt auf jede gewünschte Zeichenlänge kürzen. Aber anders als ein Mensch, weiß die Maschinen-Intelligenz nie von selbst, wie sie handeln soll.
In der Terra-X-Kolumne auf ZDFheute beschäftigen sich ZDF-Wissenschaftsjournalistinnen und -journalisten wie Harald Lesch, Mirko Drotschmann und Jasmina Neudecker sowie Gastexpert*innen jeden Sonntag mit großen Fragen der Wissenschaft - und welche Antworten die Forschung auf die Herausforderungen unserer Zeit bietet.
Dialog-Systeme wirken auf Grund ihrer Kommunikation mit uns oft wie ein menschliches Gegenüber, doch Bewusstsein hat das Sprachmodell ChatGPT mit Sicherheit nicht. Ein zentrales Charakteristikum von Bewusstsein sind der freie Wille und Intentionen. ChatGPT hingegen handelt immer im Auftrag von Menschen.
Wie funktioniert ChatGPT und warum ist das Programm so anfällig für Falschaussagen und Fake News?20.04.2023 | 4:27 min
Die größten Risiken Künstlicher Intelligenz werden übersehen
Wir haben Angst vor den lernenden Maschinen, weil wir uns selbst in ihnen spiegeln. Wir befürchten, dass sich KI so verhalten könnte wie wir selbst, dass sie bald die Welt beherrschen will, so als wäre sie ein trotziges fünfjähriges Kind, das schreit "Ich will das aber!".
Es gibt Befürchtungen, dass so eine trotzige KI das Ende der Menschheit bedeutet und uns auslöscht. Gerade haben wieder einige KI-Experten weltweit eine Warnung veröffentlicht. Die tatsächlichen Risiken durch KI - fahrlässiger Einsatz, einseitige Trainingsdaten oder auch ein Beitrag zum Klimawandel durch Energieverschwendung - werden dann allerdings gern übersehen. Die größte Gefahr bei technologischen Revolutionen ist natürlich: der Mensch.
Wie rassistisch ist eine KI, wenn wir Sie mit extremen Informationen füttern? Übernimmt die Maschine unsere Stereotype? Wie könnten wir Maschinen Ethik beibringen? 24.11.2022 | 17:24 min
Wie gehen wir mit der KI um? Wenn die KI negative Auswirkungen hat, dann liegt das sehr wahrscheinlich daran, dass wir den Rahmen der Verantwortung nicht genau und gut genug gesetzt haben.
Intelligent bedeutet nicht kompetent
Man lässt sich von KI auch schnell täuschen. Die Maschine hat eine überragende Performanz, also ein Leistungsvermögen, das weit über das des Menschen hinausgeht. Das bedeutet aber nicht, dass sie auch Kompetenz hat. Und das ist die größte Fehlerquelle. Aus der technischen Logik heraus "denkt" die Maschine allerdings immer: Ich mache alles richtig. Interessant ist der Grund dafür.
Eine KI lernt aus ganz vielen kleinteiligen Daten. Man kann das schön am Beispiel der Bilderkennung veranschaulichen: Eine KI erkennt Textur, aber keine Form. Das bedeutet zum Beispiel, wenn man in einem Bild den Umriss einer Katze mit Elefantenhaut ausfüllt, dann ist die Maschine zu 80 Prozent sicher, es sei ein Elefant. Jeder Mensch würde sagen "Form sticht Textur", also muss es eine Katzesein. Die Maschine sieht gewissermaßen den Wald vor lauter Bäumen nicht und macht deshalb Fehler.
Wäre es nicht praktisch, wenn wir allein per Gedanken Dinge um uns herum steuern könnten? Tatsächlich arbeitet die Hirnforschung daran! Für Terra Xplore wagen Biologin Jasmina Neudecker und Thora Schubert das Experiment07.06.2021 | 14:09 min
Computerwissenschaftler sprechen in solchen Fällen davon, dass Künstliche Intelligenz keinen Begriff von Welt hat. Die Fähigkeiten, die Sprachmodelle wie ChatGPT aber nun in jüngster Zeit entwickelt haben, bedeuten trotzdem eine große technologische Revolution. Der Mensch ist die einzige Spezies, die schreibt und liest und deshalb ist das Staunen groß, wenn plötzlich eine KI daherkommt und all dies auch tut. Es ist unglaublich spannend dabei zu sein, vor allem für die Wissenschaft.
Kennzeichnung maschinengenerierter Werke sollte Pflicht werden
Je mehr die KI lernt, desto besser wird sie, das ist schon jetzt bei der neuen Version ChatGPT-4 sichtbar. Und es wird immer schwieriger, von Menschen erzeugte Texte und Materialien von den maschinengenerierten zu unterscheiden. In vielen Debatten geht es darum derzeit auch um die Frage, wie zu erkennen ist, ob ein Inhalt, Text, Bild künstlich erzeugt ist oder von Menschenhand stammt.
Es werden schon digitale Wasserzeichen entwickelt, mit denen KI-Inhalte markiert werden könnten. Noch ist diese Forschung nicht abgeschlossen, aber wenn man KI-Anbieter verpflichten würde, Wasserzeichen anzuwenden, dann würden sich sicher bald die nötigen Forschungsgelder und dann auch anwendbare Lösungen finden.
Welche Science-Fiction-Fantasien werden mit künstlicher Intelligenz wie ChatGPT Wirklichkeit? Gert Scobel beleuchtet die neuen Möglichkeiten.02.03.2023 | 23:49 min
Kontrolle und Visionen der Zukunft
Ein gravierendes Problem ist allerdings, dass ausschließlich kommerzielle Anbieter diese extrem machtvolle Technologie anbieten. Für die Politik haben wir Institutionen mit Wahlen. Für die KI fehlen uns diese Kontrollmechanismen.
Das Europäische Künstliche-Intelligenz-Gesetz wird jetzt bald verabschiedet. Wir sollten in diesen Prozessen noch viel mehr einfordern. Und wir dürfen KI nicht nur kommerziell einsetzen, wir müssen auch nach positiven Visionen fragen: Wie können wir Gesellschaft mit ihr verändern und besser machen, wie könnten wir sie zum Beispiel als Instrument gegen den Klimawandel und viele andere globale Krisen einsetzen?
Macht uns KI überflüssig?Richard David Precht und Kulturwissenschaftlerin Mercedes Bunz sprechen über Chancen und Gefahren von ChatGPT.04.06.2023 | 43:39 min
... ist Kulturwissenschaftlerin und Professorin für Digitale Kultur und Gesellschaft am King’s College in London und untersucht dort, wie digitale Technologien Wissen und Macht transformieren. Sie war Mitbegründerin der Berliner Kulturzeitschrift De:Bug und promovierte 2005 an der Bauhaus-Universität Weimar über die Geschichte des Internets. Bunz ist für verschiedene Print-Redaktionen und den Hörfunk als Journalistin tätig gewesen. 2007 übernahm sie die Online-Redaktion des Berliner "Tagesspiegel", 2009 wechselte sie zum Londoner "Guardian". Von 2014 bis 2016 leitete sie ein Forschungsprojekt über digitale Kultur an der Leuphana Universität Lüneburg. Seit 2019 leitet sie zusammen mit Eva Jäger das Creative AI Lab, eine Kollaboration mit der Serpentine Gallery.
Die letzten Ausgaben verpasst?
Auf unserer Themenseite können Sie alle Terra-X-Kolumnen nachlesen.
Welche Lösungen bietet die Wissenschaft für aktuelle Probleme? Alle bisher erschienenen Ausgaben der Terra X-Kolumne finden Sie jederzeit in unserem Archiv.