Wie man KI das Halluzinieren abgewöhnen kann

Halluzinationen - ein zentrales Problem der Verlässlichkeit von KI-Software - ließen sich nach Einschätzung von Nvidia-Chef Jensen Huang durchaus beheben. Ein Weg sei, die Software die Informationen überprüfen zu lassen. "Halluzinationen sind sehr lösbar", sagte Huang am Rande der Nvidia-Entwicklerkonferenz GTC. Als KI-Halluzinationen werden Fälle bezeichnet, in denen Software Dinge einfach erfindet.

Das Problem entsteht, weil Programme wie der Chatbot ChatGPT beim Formulieren von Texten Wort für Wort schätzen, wie ein Satz weitergehen könnte. Deswegen können sie manchmal völlig falsche Antworten geben, selbst wenn sie nur mit korrekten Informationen trainiert wurden.

Der Halbleiter-Spezialist Nvidia spielt mit seinen Chip-Systemen eine Schlüsselrolle im aktuellen Boom bei Künstlicher Intelligenz. Bei der GTC stellte Huang die nächste Generation der Computer-Plattform mit dem Namen Blackwell vor, auf der KI-Anwendungen effizienter laufen sollen.

Huang zeigte sich überzeugt, dass Künstliche Intelligenz den Menschen das Schreiben von Software-Codes weitgehend abnehmen werde. Eine Zeit lang habe es geheißen, dass jeder und jede Programmieren lernen sollten.

"Ich denke, das ist falsch", sagte der Nvidia-Chef. Es sei nicht die Aufgabe der Menschen gewesen, eine Programmiersprache zu lernen. Stattdessen sollten Computer nützlich sein, auch wenn man keine Programmiersprache beherrsche.

Man werde allerdings lernen müssen, von KI-Software mithilfe richtig formulierter Anfragen - sogenannter "Prompts" - das gewünschte Ergebnis zu bekommen. Das sei aber grundsätzlich vergleichbar mit Fähigkeiten der Menschen im Umgang untereinander:

Huang hält es für möglich, dass Künstliche Intelligenz in wenigen Jahren in verschiedenen Bereichen die Fähigkeiten von Menschen übertreffen werde - zum Beispiel bei Mathematik- und Anwalts-Prüfungen oder beim Verständnis von Texten.

Daran orientiere er sich auch in der aktuellen Debatte darüber, ob Software die Stufe der sogenannten allgemeinen Künstlichen Intelligenz erreichen werde - womit meist gemeint ist, dass sie verallgemeinern könne und den Menschen überlegen sei. Allerdings - so Huang - gebe es keine Definition dafür, über die sich alle einig seien.