MerklisteSuche
    Panorama

    Kontrolle von KI-Systemen: OpenAI arbeitet an Verfahren

    ChatGPT-Entwickler warnen:Super-KI "könnte zu Entmachtung führen"

    |

    Experten warnen, eine fortgeschrittene Künstliche Intelligenz könnte die Menschheit ausrotten. ChatGPT-Macher überlegen, wie man KI-Systeme verlässlich beaufsichtigen kann.

    Grafische Darstellung: Querschnitt eines Kopfes mit leuchtenden Gehirnströmen
    Wie kann verhindert werden, dass KI den Menschen kontrolliert?
    Quelle: obs
    Die ChatGPT-Entwicklerfirma OpenAI macht sich Gedanken darüber, wie Menschen eine potenzielle digitale "Superintelligenz" kontrollieren könnten.

    Menschen werden nicht in der Lage sein, verlässlich Systeme mit Künstlicher Intelligenz zu beaufsichtigen, die viel klüger als wir sind.

    ChatGPT

    "Die enorme Macht der "Superintelligenz" könnte zu einer Entmachtung der Menschheit oder sogar zum Aussterben der Menschheit führen", schrieben OpenAI-Mitgründer Ilya Sutskever und der Leiter der OpenAI-Abteilung für zukünftige Ausrichtung Jan Leike in einem Blog-Beitrag. "Derzeit haben wir keine Möglichkeit, eine potenziell superintelligente KI zu steuern oder zu kontrollieren und zu verhindern, dass sie eigene Wege geht." Deshalb solle ein automatisiertes Verfahren dafür ausgearbeitet werden. Das Ziel sei, die zentralen technischen Herausforderungen für ein solches System binnen vier Jahren zu bewältigen.

    OpenAl: Entwicklung von KI-Kontrolle hohe Priorität

    OpenAI wolle dafür ein Fünftel der zur Verfügung stehenden Rechenkapazität aufwenden. Das Entwicklerteam solle vom Chefwissenschaftler Ilya Sutskever mit angeführt werden.
    Harald Lesch neben einem Roboter mit Künstlicher Intelligenz
    Sind ChatGPT, Bard, Dall-E und Co der Durchbruch für künstliche Intelligenz? Welche Gefahren drohen, wenn sich diese Technologie noch weiter entwickelt? 21.06.2023 | 97:40 min
    Auch wenn die "Superintelligenz" aus dem Computer derzeit noch in weiter Ferne zu sein scheine, halte OpenAI sie noch in diesem Jahrzehnt für möglich. Sie werde viele Probleme lösen helfen und die folgenschwerste Erfindung der Menschheit sein.
    Der Vorstoß folgt auf eine Warnung von Branchenexperten, aus deren Sicht Künstliche Intelligenz mit dem Risiko existenzieller Gefahren verbunden ist. Zu den Unterzeichnern gehört auch OpenAI-Chef Sam Altman.
    Die angebliche Bedrohung wurde dabei nicht näher erläutert - und Kritiker hielten den Experten vor, solche Warnungen lenkten von bereits heute existierenden Problemen Künstlicher Intelligenz wie Diskriminierung in Algorithmen ab.

    Hype um KI durch ChatGPT

    OpenAI entwickelte unter anderem den Chatbot ChatGPT, der einen neuen Hype rund um künstliche Intelligenz auslöste. Das Programm kann Sätze kreieren, die von denen eines Menschen kaum zu unterscheiden sind.
    Es wurde dafür mit gewaltigen Datenmengen trainiert und schätzt auf dieser Basis Wort für Wort ab, wie ein Satz weitergehen sollte. Dieses Prinzip sorgt allerdings auch dafür, dass ChatGPT mitunter völlig falsche Informationen ausgibt.
    Quelle: dpa, Reuters

    Mehr zur Künstlichen Intelligenz