OpenAI birgt "katastrophale Risiken" - sagt selbst der CEO?!?

Altman, neuer, alter Chef von ChatGPT-Entwickler OpenAI  , liebt es, sich apodiktisch zu den Entwicklungsmöglichkeiten seiner KI zu äußern. Im Februar 2023 schrieb er im Firmenblog, dass es die Aufgabe von OpenAI sei, "dafür zu sorgen, dass Artificial General Intelligence - KI-Systeme, die im Allgemeinen intelligenter sind als Menschen - der gesamten Menschheit zugute kommt."

Artificial General Intelligence ist Altmans Lieblingsausdruck, noch cooler: AGI. Kann ChatGPT das irgendwann, ist das Tool so intelligent und so fähig wie ein Mensch. Es geht also um alles. Die Maschine wird zum Menschen. Und macht uns natürlich wahlweise fertig oder endlich zu glücklichen Wesen, beide Überzeugungen existieren derzeit parallel in der Welt der Kulturkritiker.

Ende Oktober legte Altman dann sogar noch einen drauf, auf Twitter/X wohlgemerkt, gegenwärtig ja nicht gerade das glaubwürdigste aller Medien: "Ich erwarte, dass die KI zu übermenschlicher Überzeugungskraft fähig sein wird, lange bevor sie bei der allgemeinen Intelligenz übermenschlich ist, was zu einigen sehr seltsamen Ergebnissen führen kann." Übermenschlich? Seltsame Ergebnisse? Klingt ganz nach Twitter, also X, mein ich natürlich.

"Ich weiß nicht, was soll es bedeuten", schrieb einst Heinrich Heine in seinem "Buch der Lieder" von 1827. Und gab am Ende des Gedichts selbst die Antwort darauf:
"Ich glaube, die Wellen verschlingen
Am Ende Schiffer und Kahn;
Und das hat mit ihrem Singen
Die Lore-Ley gethan."

Geht es hier also darum? Dräut das Schicksal? Singt uns die Lore-ley gerade das letzte Lied?

Vor einigen Tagen brachte OpenAI dann zumindest etwas Licht ins Dunkel der Offenbarungen. In einem Dokument, dass von dem Unternehmen hier   veröffentlicht wurde, heißt es gleich im ersten Absatz: "Wir sind der Meinung, dass die wissenschaftliche Untersuchung der von KI ausgehenden Katastrophenrisiken weit hinter dem zurückgeblieben ist, was wir brauchen. Um diese Lücke zu schließen, stellen wir unser Preparedness Framework   vor, ein dynamisches Dokument, das die Prozesse von OpenAI beschreibt, um die katastrophalen Risiken zu verfolgen, die von immer leistungsfähigeren Modellen ausgehen."

Die 5 "katastrophalen Risiken"

Open AI will sich also selbst darum kümmern, dass es nicht zur Katastrophe kommt. Nett. Chef des Preparedness (sinngemäß: Vorbereitetheit) Teams  , das eine schädliche Benutzung von ChatGPT verhindern will, ist Alexander Madry   , Computing-Professor am Massachussetts Institute of Technology (MIT)  . Er stellt in dem Dokument fünf KI-Risiken vor, die der Menschheit gefährlich werden können.

• Cybersicherheit: KI könnte dazu genutzt werden, um Computer anzugreifen.
• Gefahren durch chemische, biologische, nukleare und radiologische Waffen: KI könnte für die Entwicklung neuartiger Waffen eingesetzt werden
• Überzeugungskraft: KI könnte Menschen dazu bringen, ihre Überzeugungen zu ändern
• Autonomie: KI könnte sich irgendwann selbst verbessern und jedem menschlichen Eingriff widerstehen. Modell: der rebellierende Computer HAL 9000 in dem Science-Fiction-Film "2001 - Odyssee im Weltraum".
• unbekannte Unbekannte: Der OpenAI-Terminus für "was auch immer da kommt, wir haben es im Blick".

OpenAI hat eine Wertungsliste ("scorecard") entwickelt, um strategisch gegen solche Fehlentwicklungen vorzugehen, wann immer sie sich zeigen sollten, unterteilt in mehrere Warnstufen.

Aber wann wäre es denn soweit mit AGI, Schätzungen zufolge? In einer Studie   an der Oxford-Universität   schreibt der Autor Robert Macey-Dare von 2028 als dem frühest möglichen Zeitpunkt. Seinen Modellberechnungen zufolge ist 2041 aber das wahrscheinlichste Jahr, in dem AGI Wirklichkeit wird. Zweifel daran, dass dies passieren wird, hegt die Studie nicht. Was steht also zu erwarten? Zwischen 2028 und 2041 wird es Computern höchstwahrscheinlich möglich sein, alle intellektuellen Aufgaben zu lösen, zu denen ein Mensch fähig ist. Abzüglich Kreativität, Planung, Argumentation, Empfindungen und Bewusstsein. Zu humanoiden Robotern, dem alten (Alp)Traum der Science-Fiction (siehe Bild oben), wird es also eher auch diesmal nicht reichen.

Schöne Feiertage!

Christian Gehl
iBusiness-Analyst

PS: Wenn Sie noch ein Weihnachtsgeschenk für uns suchen: Werden Sie hier iBusiness-Premium-Mitglied. Sie bekommen dafür wichtige Karma-Punkte für die Unterstützung nicht erregungsökonomischen Fachjournalismus und erhalten von uns (bis 8.1.24) sowohl automatisch zusätzlich einen Gratismonat sowie ganzjährig hochkarätige Hintergrundanalysen (so lange Sie wollen).