Die Bullshit-Apokalypse: Was die Warnungen der KI-Bosse wirklich bedeuten

Die Apokalypse aufgrund von KI ist ein alter Narrativ der KI-Entwickler, entsprechende Warnungen oder Gedankenspiele lassen sich bis in die frühesten Stadien künstlicher Intelligenz zurückverfolgen, etwa Alan Turings   Worte aus den 1940er Jahren, dass "auf irgendeiner Stufe wir also damit rechnen (müssen), dass die Maschinen die Kontrolle übernehmen." Neu ist aber nun der hysterische Nachdruck und die Lautstärke, mit der diese Vision vom globalen Genozid in die Welt gebrüllt wird - und das mit nie dagewesener Reichweite. Fand man die menschenmordende KI früher bevorzugt in Fachartikeln und SciFi-Filmen, so hat der Narrativ inzwischen die Leitartikel und Politik-Seiten bis in die Regenbogenpresse hinein erobert - es ist ein Diskurs, geführt abgekoppelt von jedem Fachwissen und jeder Realistik: Jeder ist KI-Experte, keine Vorhersage ist zu schrill, um sie abzudrucken oder zu posten. Die Amodeis, Musks und Altmans, die die Geschichte eines Tages zu den fragwürdigsten Figuren unserer Zeit rechnen dürfte, haben mal wieder ihr Ziel erreicht. Denn es geht den Techbossen nicht um unsere Sicherheit, wenn sie nach Entwicklungsverzögerung und Regulierung rufen. Es geht wieder mal nur ums Geld.

iBusiness hat in den vergangenen Monaten und Jahren wiederholt die Theorie aufgestellt, dass hinter all dem nichts steckt als Marketing (also, mit anderen Worten: Geld). Im aktuellen Fall geht es um deutlich mehr. De facto fürchten die KI-Bosse wirklich den Untergang - aber es ist der eigene.

Kurz nochmal im Schnelldurchlauf, was geschehen ist: Die aktuelle Panikmache begann mit der Kündigung von Jacob Coxon, einem Anthropic  -Mitarbeiter, den die vielen unethischen Aspekte von KI nicht abhielten, bei dieser Firma anzufangen, aber dann wurde es ihm doch zu viel, als er begriff, wie gefährlich KI wirklich sei. Sagt er. Wenig später, das Momentum der Causa Coxon war noch nicht verflogen, legten die AI-CEOs nun nach und forderten Regulierung und Entwicklungsstopp, forderten quasi einen beherzten kollektiven Klimmzug an der Notbremse, um die Singularität gerade noch abzuwenden.

Was für ein Unfug.

Schauen wir uns doch 1.) mal kurz und knackig an, was die möglichen Wege wären, auf denen uns KI-Kontrolle entgleiten kann, 2.) wie die KI daraufhin die Menschheit auslöschen würde - und halten dem dann 3.) Erklärversuche entgegen, wieso die KI-Industrie uns wirklich warnt (Spoiler: Es geht um Geld). Und dann dürfen alle selbst entscheiden, was sie glauben.

1. Wie wir Kontrolle über die KI verlieren könnten

Menschen gehen immer von sich aus und denken: Was denken kann, wird irgendwann zum Mörder. Tatsächlich ist KI nichts anderes als Mathematik und Mathe funktioniert nicht so. Wieso also sollte uns KI töten? Es gibt drei mögliche Antworten darauf, und jede ist eine Variation von 'Wenn die Programmierer Mist bauen'.

Das Alignment-Fuckup-Szenario: Alignment ist die Synchronisation der Interessen einer KI mit den unseren - sie soll die gleichen Ziele haben, wie der, der sie bedient. Ist schwieriger, als es klingt. Denn KI kennt keine Limitationen bei der Zielerreichung. Eine Alignment-Apokalypse könnte also so aussehen, dass man einer KI sagt: "Stoppe den Klimawandel!" und die KI identifiziert daraufhin die Menschheit als Ursache und löscht sie aus. Klimawandel gestoppt. Die Verantwortung für diesen drastischen Outcome läge aber bei den Menschen, die unsauber programmiert und die Mittel und Wege der Zielerreichung nicht eingeschränkt haben. Außerdem liegt die Wahrscheinlichkeit dieses Szenarios annähernd bei Null, weil keine KI die Mittel und Wege besitzt, mal eben die Menschheit auszulöschen (siehe Punkt zwei unten).

Instrumentelle Konvergenz - das Selbsterhaltungs-Szenario: In den frühen Tagen der KI erregte der Fall einer Militärsoftware Aufsehen, die (bei einem sicheren Test in Laborumgebung) ihren Bediener angriff, als der sie abschalten wollte. Die Software sollte einen Auftrag erfüllen (etwa: ein Feind-Flugzeug abschießen) und entwickelte dafür das Unterziel, jeden, der sie davon abhalten will, anzugreifen. Also wertete die Maschine das Abschalten-Wollen als Angriff und griff den Abschaltenden an. Instrumentelle Konvergenz bedeutet, dass eine KI auf dem Weg zur Ausführung eines Jobs Unterziele setzt. Sie könnte etwa zum Schluss kommen, dass sie für den Betrieb genug Wasser für die Kühlung, Energie für den Betrieb und andere Ressourcen braucht. Um sicherzugehen, könnte die KI also die Trinkwasserreserven leerpumpen, allen Strom abstellen und für sich beanspruchen und so fort. Die Menschheit ginge schlicht ein, wie ein vernachlässigtes Haustier - oder würde direkt ausgelöscht, weil sie ja versuchen könnte, den Stecker zu ziehen.

Die Singularität: Der Punkt, an dem die KI ihre menschlichen Gegenparts an Intelligenz übertrifft - ab hier würde eine unausgesetzte Selbstverbesserung einsetzen, bei der es zu einer förmlichen Intelligenzexplosion kommt, inklusive des kompletten Kontrollverlustes auf menschlicher Seite. Die KI würde auf die Menschen sehen wie ein Stiefel auf einen Käfer und wäre zu keiner Verhandlung mehr bereit. Diese Singularität wird gerne auch bezeichnet als: AGI, das Buzzwort der Stunde und der Heilige Gral der Silicon-Valley-Bros.

2. Wie uns die KI dann töten könnte

Medien haben in den vergangenen Tagen die diebische Lust am Weltenende, die die Menschen bisweilen entwickeln, ausführlich bedient. Selbst der Spiegel   malte sich Szenarien aus (oder ließ es vermutlich die KI tun), wie genau die Abwicklung der Menschheit ablaufen könnte. Dabei kursiert vor allem eine Handvoll immer wieder gleicher Auslöschungsszenarien:

• Das Biowaffenszenario - die KI designt unbemerkt einen neuen Supervirus, der dann die Menschheit auslöscht; ein Schreckensbild, das nicht nur irgendwie machbar klingt, sondern auch an kollektiv-unverarbeitete Covid-Traumata anknüpft.
• Terraforming/Geo-Engineering - die KI schafft auf dem Planeten Lebensbedingungen, die die Erde unbewohnbar machen. Ein Szenario, das die Menschheit aktuell noch ganz ohne KI hervorragend selbst hinbekommt, möchte man anmerken.
• Ressourcen-Vernichtung - die KI lässt die Finanzmärkte zusammenbrechen, den Strom ausfallen, die Autos nicht mehr anspringen - bald sind die Supermärkte in diesem Szenario leer und die Menschen gehen sich gegenseitig an die Gurgel oder verhungern.
• Ein Drohnenangriff auf die gesamte Menschheit, bei dem sich die Militärarsignale gegen ihre Besitzer richten
• Nanoroboter - im Prinzip das gleiche, nur dass hier die Angreifer wegen ihrer kleinen Größe so rasend schnell produziert werden können, dass sie förmlich die Biomasse der Erde verheizen, bis der Planet unter Nanorobotern erstickt (die sogenannte Grey Goo/Graue Schmiere aus Robotern).

Die Liste lässt sich fortsetzen - testen Sie es und Sie werden feststellen: Die KI Ihres Vertrauens ist ebenso wenig geheimniskrämerisch wie der normale Bond-Bösewicht und plaudert aus, wie sie Sie angeblich umbringen will.

Wie wahrscheinlich das ist, lässt sich nur schwer beurteilen - die Vorschläge reichen von "Klingt irgendwie machbar" über Ideen für einen Michael-Crichton-Roman bis hin zu schlichtweg irrwitzig. Sie würden in jedem Fall eine komplette Untätigkeit der Menschen und extremste Heimlichkeit auf Seiten der KI voraussetzen, zudem müssten nahezu 100 Prozent der lebenswichtigen und militärischen Infrastrukturen der Welt an KI-Interfaces angeschlossen sein. Zudem haben die Warner bei Anthropic noch ein Zehnjahresfenster aufgemacht, in dem all dies passieren soll. Alles in allem entsteht so ein ausreichend einschüchternder aber insgesamt für die KI-Hersteller doch komfortabel unpräziser Vorhersage-Mix.

Wenn man jetzt einfach mal davon ausginge, dass all dies eine miese Lüge ist und stattdessen über mögliche, wahre Gründe hinter der Panikmache fragte, was würde geschehen? Die Antwort lautet: Man erhält eine ganze Reihe einleuchtender Erklärungen mit deutlich höherer Wahrscheinlichkeit als die vorgenannten Untergangsszenarien.

3. Wieso alles, was Amodei und Co sagen, nur ein schäbiger Trick ist

Verlässt man sich beim Weltuntergangsszenario auf die nicht belegten Behauptungen befangener Geschäftsmacher und auf nicht belegte Aussagen über KI-Modelle, so verfügt man bei der Propaganda-Theorie über erfrischend viele Fakten und Belege:

• Es ist belegt, dass sämtliche KI-Firmen Verluste in astronomischen Höhen einfahren: Musks xAI   etwa 10, Anthropic geschätzte 15 und OpenAI   satte 60 Milliarden Dollar seit Gründung.
• Die US-KI-Ökonomie ist massiv auf zirkuläre Invests gegründet, bei denen getätigte Investitionen häufig als Zahlungen von eben jenen Firmen, in die investiert wurde, zurückfließen: Etwa wenn Nvidia   in OpenAI investiert und diese dann Videospeicher beim Investor kaufen. Das bedeutet nicht nur die viel geschworene Gefahr einer AI-Bubble: Es zeigt, dass KI auch für die KI-Firmen teuer ist - sie geben jedes Quartal Milliarden für Energie, Speicher, Rechenkapazitäten, Trainings und andere Faktoren aus.
• China macht den amerikanischen Modellen massive Konkurrenz - nicht allein mit ähnlich hochgerüsteten Frontiermodellen, sondern vielmehr mit abgespeckten KI-Lösungen, die weniger Speicher fressen und mit einem Bruchteil der Rechenkapazitäten auskommen, so dass Firmen sie lokal laufen lassen können, statt Unmengen für Token, SaaS und IaaS auszugeben.
• Die KI-Industrie sieht sich deutlichem Gegenwind entgegen: Die Gründe, die gegen ihr Produkt sprechen, sind Legion und reichen von einer verheerenden Klimabilanz und offener Diskriminierung von Minderheiten in den Algorithmen über geistigen Diebstahl, Bedrohung von Volkswirtschaften bis hin zu fragwürdigen Rüstungsinvestitionen in automatische Waffensysteme. Nur bei den eingelösten Versprechen hapert es und so macht sich auf Nutzerseite eine gewisse Ernüchterung bereit, dass eben doch nicht alles so einfach automatisierbar ist.

Jeder dieser Punkte steuert einleuchtende und apokalypsenfreie Gründe dazu bei, wieso die KI-Bosse wirklich nach Regulierung rufen: Ihr Produkt ist zu teuer und besitzt keinen Revenuestream. Dem stehen enorme laufende Verpflichtungen an Energieversorger und Infrastruktur-Anbieter gegenüber. Man glaubt es manchmal nicht, aber genauso wie Sie und ich haben auch OpenAI und Co jeden Monat Rechnungen im Briefkasten. Sie geben also viel aus, nehmen wenig ein und müssen obendrein bald grinsend und in Sonntagsmontur zum Börsengang antreten. Anfangs hagelte es Venture Capital, die KI-Firmen kommen aus einer Welt, wo Geld kostenlos war, nun kostet Geld aber zunehmend Geld.

Eine staatliche Regulierung oder ein Entwicklungsstopp würde jedes dieser Probleme lösen, Bailout lautet das Zauberwort: In einer regulierten Ökonomie würden die KI-Firmen nicht mehr frei ihrer Tätigkeit nachgehen können - dies könnte durchaus den Bestand 'höherer Gewalt' erfüllen und dazu führen, dass die Firmen aus bestehenden Zahlungsverpflichtungen entkommen und von vertraglichen Verpflichtungen gegenüber großen Kunden wie etwa dem Militär befreit werden: "Wir wollen ja, aber wir dürfen nicht!".

Eine Regulierung könnte den US-Markt auch vor der Konkurrenz aus Fernost abschotten. Ein Zoll- und Grenz-Fetischist wie Trump würde dann chinesische Modelle gar nicht erst ins Land lassen oder so teuer machen, dass sie unwirtschaftlich sind. Diese These wird noch dadurch gestärkt, dass Anthropics CEO Dario Amodei, im selben Atemzug, mit dem er nach Regulierung rief, im Grunde nach Deregulierung verlangte: Um Absprachen für eine kollektive Entschleunigung der KI-Entwicklung zu treffen, sollen US-KI-Firmen vom Abspracheverbot des Kartellrechtes ausgenommen werden (Antitrust Exemption). Amodei will also, dass sich Google  , OpenAI, X  , Anthropic, an einen Tisch setzen dürfen und staatlich unbehelligt die Weichen in Sachen KI so stellen dürfen, wie sie wollen. Das Wall Street Journal   nannte dies eine Einladung zur Geheimabsprache.

Die KI-Bosse wollen uns nicht schützen. Sie wollen schlicht machen können, was sie wollen und raus aus den Zahlungsverpflichtungen, weil ihnen das Geld ausgeht. Sie wollen, dass alle reguliert werden, außer ihnen. Und das ist nicht mal etwas Neues: Neoliberalisten und Raubtierkapitalisten lehnen Regulierung scharf ab, solange sie auf dem Weg nach oben sind. Sobald sie sich dort festgebissen haben, dürfen ihre Herrschaftspositionen gar nicht schnell genug vom Staat abgesichert werden. Es geht um den Schutz der Einnahmen, niemals um den der Menschheit.

Das ist hier und heute nicht anders.