Die Personalie des Jahrtausends

Wir sollten genau im Auge behalten, wie es mit der Karriere von Jacob Coxon, 27 Jahre, Brite, weitergeht.

Der Mathematiker mit Cambridge-Abschluss war von 2023 bis 2026 bei OpenAI  , wo er an ChatGPT mitwirkte, und arbeitete dann von Juli bis gerade eben bei Anthropic   (als Pretraining-Researcher). In die Schlagzeilen geriet er aber nun mit seiner öffentlich gemachten Kündigung bei dem KI-Unternehmen: "Sie rasen geradeaus zur selbstverbessernden Superintelligenz und spielen mit unserem Leben Roulette", postete Coxon als Grund für die Kündigung: Der Mann konnte es einfach nicht mehr mit seinem Gewissen vereinbaren, bei einem so KI-kompetenten Unternehmen zu arbeiten, das auf dem Weg ist, die KI-Apokalypse auf den Weg zu bringen.

Das ist ja grundsätzlich nett von ihm.

Panik ist die Botschaft und sie nützt nur den KI-Paten

Aber vielleicht sollte man die Aussage etwas genauer betrachten, anstatt sie wie sämtliche Medien von links nach rechts einfach weiterzuverbreiten. Ich wette nämlich eine Nvidia  -Grafikkarte darauf, dass Coxon binnen der kommenden sechs Monate wieder bei seinem alten Arbeitgeber anfängt, befördert und gehaltserhöht, begleitet von einem X  - oder LinkedIn   -Post, dass man einvernehmlich alle Sicherheitsbedenken ausgeräumt und Anthropic nun nicht nur die tödlichste, sondern auch die sicherste KI und bald auch AGI haben werde. Die Nummer mit der zu gefährlichen KI hatten wir nun ja inzwischen schon diverse Male: Elon Musk, Sam Altman, Dario Amodei, Demis Hassabis, Warren Buffett, Richard Branson - allesamt Tech/KI-CEOs - haben bereits vor der Technologie gewarnt. Neu im aktuellen Fall ist die zusätzliche Glaubwürdigkeit hervorrufende Kündigung, mit der die Botschaft einhergeht.

Ist also alles nur ein Marketing-Stunt? Es gibt Gründe dafür und dagegen.

Für die Glaubwürdigkeit von Coxons Warnung spricht die Absage an Job, Gehalt und Karriereweg bei einem gefragten Arbeitgeber. Außerdem kamen die meisten früheren Warner aus den Safety-Teams, während Coxon die Modelle selbst mittrainiert hat - das ist die Komponente, die der Sache Gewicht gibt (allerdings: Im Falle einer Inszenierung wäre das natürlich die entscheidende Zutat in der Marketing-Sauce). Und dann bestätigt noch einer aus dem Team, Evan Hubinger, der Leiter der Anthropic-Sicherheitsforschung, dass die Wahrscheinlichkeit eines KI-verursachten globalen Genozids innerhalb des nächsten Jahrzehnts bei über 10 Prozent läge. Passt doch alles. Halt nur zu gut irgendwie.

Denn die Aussagen decken sich einmal mehr mit der 'Stellungnahme zu existenziellem Risiko durch KI'(Statement on AI Risk)   von 2023, einer Warnung von KI-Experten vor der zerstörerischen Kraft von KI. Unter den Unterzeichnern wimmelte es damals von Stakeholdern in KI, auch Coxons Arbeitgeber, Anthropic-Boss Amodei, war darunter. Das lässt sich einerseits als kongruent und konsequent auslegen, verströmt aber auch andererseits das Aroma eines wieder und wieder variierten Marketing-Gags. Denn niemand profitiert mehr von einem Allmachtsglauben an die KI als deren Macher, es herrscht eine hohe Interessenkongruenz: KI-Firmen inszenieren die Bedrohung, um ihre Produkte allmächtig erscheinen zu lassen, und so nützt Coxons Rücktritt objektiv Anthropic mehr, als er schadet. Tech-Journalistin Taylor Lorenz nannte Coxons Auslassungen ärgerliche, "heuchlerische Untergangs-Inszenierung" ("sanctimonious doomer posting").

Eine spannende Technologie in Händen geldgeiler Un-Demokraten

Es gibt auch Experten, die Coxon für einen achtbaren Mann mit aufrichtiger Agenda halten. Der bei iBusiness häufig auftretende KI-Fachmann und Mathematiker Christian Bennefeld etwa sieht in ihm "keinen Betrüger - er ist ein glaubwürdiger Zeuge mit strukturell befangener Botschaft." Die belastbare Kerninformation des Vorgangs sei nicht Coxons Angst, sondern dass Anthropics Alignment-Lead die Angst öffentlich teilt und zugleich einräumt, dass kein Lösungsplan existiere: "Das ist ein harter Fakt über die Branche, unabhängig davon, ob man das Doom-Szenario teilt." Doch auch Bennefeld räumt ein: "Glaubwürdig ist vor allem der Zeuge, nicht zwingend die Botschaft."

Doch es gibt eine Botschaft, die Agenturen, Medien und alle, die irgendwie mit KI zu tun haben, von der Causa Coxon mitnehmen sollten - im Grunde sind es zwei: Die KI-CEOs dieser Welt und ihre im Unterordnungswillen allenfalls mit Apple-Fanboys vergleichbaren Jünger lieben Untergangsszenarien, in ihrer KI-Bibel schlägt sich die Offenbarung des Altman von selbst auf. Unkritischer Glauben macht aber am Ende nur diese demokratisch grenzwertigen Gestalten und ihre unausgereiften Technologien stark. Man sollte Skepsis walten lassen.

Und zweitens sollte man sie - Obacht, Paradoxon - beim Wort nehmen und ihre Technologien als eben jene Gefahr betrachten, die sie auf vielen Ebenen de facto sind, für Demokratie, Gleichbehandlung, unabhängige Information, Kunst, Klima und Menschenrechte. Meinetwegen auch für den Fortbestand der Erde - aber endlich, endlich, endlich müssen Regulierungen her, die der auf intellektuellem Diebstahl gegründeten Ressourcenvernichterin KI Grenzen setzen. Grenzen, innerhalb derer eine faire, allen zugängliche und der Gesellschaft nutzbringende Anwendung möglich ist, die es für KI nun eben auch gibt, wenn wir sie erstmal den Händen geldgeiler Manager entwunden haben.