Jetzt kennt ihn jeder: Dieser KI-Forscher warnt vor Auslöschung
„KI könnte uns bis zum Ende dieses Jahrzehnts auslöschen“: Eine Nachricht auf der Plattform X, gelesen von 171 Millionen Menschen. Wie der britische Mathematiker Jacob Coxon nach seinem Abschied von Anthropic ein globales Erdbeben auslöste.
„I resigned from Anthropic today“, „Ich habe heute bei Anthropic gekündigt“. Mit diesen Worten beginnt der Mathematiker Jacob Coxon am 9. September unserer Zeit auf der Online-Plattform X einen Eintrag, der eine weltweite Debatte auslösen sollte. Eine, die sich um existenzielle Risiken dreht, die von Künstlicher Intelligenz (KI) ausgehen. 171 Millionen Menschen erreichte die Nachricht laut X auf direktem Wege, viele, viele weitere Millionen indirekt.
Wobei es freilich weniger das persönliche Intro war, das aufregte, sondern das Mittelstück des längeren Beitrags. Dort schreibt der KI-Forscher nämlich: „Die Menschen, die KI entwickeln, sind fest davon überzeugt, dass sie uns alle bis zum Ende dieses Jahrzehnts auslöschen könnte.“ Und: „Keine andere menschliche Tätigkeit birgt eine derart große Gefahr.“
Besondere Kraft entwickelte Coxons prägnante Formulierung, weil viele weitere Beschäftigte der großen KI-Firmen folgten und öffentlich ähnliche Sorgen äußerten. Darunter, replizierend auf Coxon, mit Evan Hubinger gar ein aktueller, führender Manager des KI-Entwicklers Anthropic. Am Wochenende schließlich übernahm Anthropic-Boss Dario Amodei selbst per wuchtigem Essay die Initiative.
Amodei sprach sich für eine kollektive Verlangsamung bei der Entwicklung der leistungsstärksten KI-Modelle, der Frontier-Modelle, aus – verschriftlichte Unterstützung bekam er dabei von OpenAI-Chef Sam Altman, Microsoft-Chef Satya Nadella, DeepMind-Kopf Demis Hassabis und selbst Elon Musk.
Wer ist Jacob Coxon?
Was aber weiß man überhaupt über den Menschen, der diese Debatte – erneut – entflammte? Was weiß man über Jacob Coxon? Tatsächlich wenig, könnte man knapp zusammenfassen. Öffentlich trat er vor dem 9. September kaum in Erscheinung. Jedenfalls soll der Brite ein außergewöhnlich talentierter Schüler gewesen sein, bei Mathematik-Weltmeisterschaften reüssiert und in Cambridge studiert haben.
Drei Jahre lang habe er anschließend bei OpenAI, dem Unternehmen hinter dem populären KI-Chatbot ChatGPT, und Anthropic gearbeitet, schreibt Coxon selbst. Bei Anthropic dockte der Brite erst im Mai 2026 an, weiß die Washington Post.
Coxons Spezialgebiet ist das „Pretraining“ großer KI-Modelle. Also jene Phase, in der die Modelle ihre grundlegenden Fähigkeiten erwerben und zugleich Anknüpfungspunkt für Kritiker des Briten. „Tut mir leid, aber Jacob nach dem KI-Auslöschungsrisiko zu fragen, ist so, als würde man seinen Klimaanlagen-Techniker nach dem Klimawandel fragen“, zweifelt etwa Hugging-Face-Chef Clement Delangue am inhaltlichen Gewicht der Aussagen Coxons.
Er folgt 22, ihm folgen 300.000
Auf X, erst seit Jänner ist Coxon dort aktiv, folgt der Brite gerade einmal 22 anderen Konten – aber fast 300.000 folgen mittlerweile ihm. Wie sein Posting die enorme Reichweite schaffen konnte, will er selbst doch gerade einmal rund zehn Menschen um aktives Teilen gebeten haben?
Nun, einerseits waren die Formulierungen zugespitzt und perfekt aufbereitet für den X-Algorithmus. Auf CNN erzählte Coxon, er hätte den Thread vorab formuliert und gemeinsam mit einem Freund mehrmals überarbeitet. Er wollte, dass die Story „ein bisschen viral“ geht, mit einer derartigen Explosion hätte er aber nicht gerechnet.
Vermutet wird, dass der digitale Startimpuls aus einem sehr gut vernetzten KI-Security-Kreis kam. Schon zehn Minuten nach dem Veröffentlichen etwa teilte der renommierte KI-Forscher Daniel Kokotajlo seinen 50.000 Followern den Beitrag. Innerhalb von 24 Stunden hatte Coxons Nachricht bereits mehr als 90 Millionen Menschen erreicht.