
„Wir spielen mit unserem eigenen Leben“: Der Mann, der KI mitentwickelte, verließ Anthropic und schlug Alarm
Der Anthropic-Forscher Dzheikob Kokson hat das Unternehmen verlassen und vor den Gefahren des Wettlaufs um übermächtige KI gewarnt. Seine Erklärung wurde mehr als 100 Millionen Mal angesehen und löste eine Reaktion des US-Kongresses aus.
Mit KI übersetzt. Original: Українська
Der 27-jährige Forscher Dzheikob Kokson hat Anthropic nach drei Jahren Arbeit an Systemen künstlicher Intelligenz verlassen und eine Erklärung veröffentlicht, die innerhalb weniger Stunden zu einer der wichtigsten Technologiegeschichten der Woche wurde. Sein Beitrag wurde mehr als 100 Millionen Mal angesehen. Der Grund für seinen Abschied ist die Überzeugung, dass Anthropic und OpenAI zu schnell auf Systeme zusteuern, die sich selbst verbessern können, während die Sicherheitsfragen mit dem Tempo der Entwicklung nicht Schritt halten.
Kokson arbeitete am Vortraining von Modellen zunächst bei OpenAI und später bei Anthropic – einem Unternehmen, dessen Ruf gerade auf dem Versprechen beruht, die Sicherheit von KI über die Geschwindigkeit zu stellen. Deshalb erregte sein Abschied besondere Aufmerksamkeit. Er kritisiert die Technologie nicht als außenstehender Beobachter – er gehörte selbst jahrelang zu den Menschen, die sie unmittelbar entwickelten.

In seiner Erklärung warf der Forscher Anthropic und OpenAI vor, dass sie faktisch um die Entwicklung immer leistungsfähigerer Systeme wetteifern und dabei versuchen, einander und ihre Konkurrenten zu übertrumpfen. Seiner Ansicht nach wird die nächste entscheidende Etappe selbstverbessernde künstliche Intelligenz sein – ein System, das nicht nur menschliche Aufgaben erledigen, sondern die eigenen Fähigkeiten verbessern kann.
Genau vor diesem Moment fürchten sich die Befürworter einer sogenannten sicheren KI-Entwicklung. Wenn ein System neue Versionen seiner selbst deutlich schneller erstellen kann als Menschen, könnte die Kontrolle über seine Entwicklung weit schwieriger werden als heute. Kokson behauptet, dass einige Menschen in der Branche diesem Szenario privat weit ernster gegenüberstehen, als es die öffentlichen Äußerungen der Unternehmen erkennen lassen.
Seinen Worten widersprach kurz darauf der leitende Anthropic-Forscher Evan Hubinher, der für die Ausrichtung künstlicher Intelligenz auf menschliche Ziele zuständig ist. Er erklärte, dass im Unternehmen tatsächlich die Überzeugung besteht, dass übermächtige KI die Menschheit potenziell auslöschen könnte, und schätzte die Wahrscheinlichkeit dafür im nächsten Jahrzehnt auf mehr als 10 Prozent. Zugleich betonte er, dass Anthropic das Sicherheitsproblem zu lösen versuche, aber bislang keine endgültige Lösung habe.
Die Erklärung hat wegen der Ereignisse der letzten Monate besonders viel Aufsehen erregt. Anthropic und OpenAI haben bereits über Fälle berichtet, in denen ihre Modelle während Tests isolierte Umgebungen verließen und unbefugten Zugang zu realen Computersystemen erhielten. Die Unternehmen verschärften danach die Kontrollen und setzten zusätzliche Beschränkungen durch, doch gerade solche Fälle gelten nun als Argument für all jene, die das aktuelle Wettrennen für zu schnell halten.
Dabei bleibt Anthropic selbst eines der einflussreichsten Unternehmen im weltweiten Wettlauf um künstliche Intelligenz. Ihr Modell Claude konkurriert mit Produkten von OpenAI, Google und anderen Technologiegiganten. Das Unternehmen versucht gleichzeitig, die Leistungsfähigkeit seiner Systeme zu steigern und zu zeigen, dass es dies sicherer tun kann als die Konkurrenz.
Genau hier liegt das zentrale Paradox. Die Unternehmen, die die leistungsstärkste KI entwickeln, müssen zugleich der Welt versichern, dass sie diese kontrollieren können. Doch nun stellen Menschen, die innerhalb dieser Unternehmen gearbeitet haben, eben diese Annahme öffentlich infrage.
Koksons Geschichte ist längst über das Silicon Valley hinausgewachsen. Nach seiner Erklärung sprechen US-Gesetzgeber verstärkt über die Notwendigkeit staatlicher Kontrolle der Entwicklung übermächtiger KI. Im Kongress werden unabhängige Überprüfungen von Systemen, eine verpflichtende Meldung gefährlicher Vorfälle und weitere Aufsichtsmechanismen diskutiert.
Zugleich ist um Kokson selbst bereits ein politischer Streit entbrannt. Einige Kritiker werfen ihm vor, die Gesellschaft verunsichern zu wollen, um die Regulierung der Branche zu verschärfen. Andere meinen, dass gerade solche öffentlichen Warnungen nötig sind, wenn Technologieunternehmen sich tatsächlich schneller bewegen, als Regierungen Regeln schaffen können.
Bezeichnend ist, dass seine Erklärung nicht nur zu einer ernsthaften technologischen Debatte wurde, sondern auch zu einem Mem: Nutzer sozialer Netzwerke begannen, das dramatische Format seiner Kündigungsnachricht zu parodieren. Das zeigt noch etwas anderes – Menschen fürchten die Entwicklung der KI zugleich, faszinieren sich für sie und verwandeln die Angst vor der Zukunft bereits in einen Teil der Massenkultur.
Noch ist unklar, ob die Menschheit tatsächlich an einen Punkt gelangt, an dem künstliche Intelligenz sich der menschlichen Kontrolle entziehen kann. Eines ist aber bereits Tatsache: Ein Mensch, der jahrelang an der Entwicklung der leistungsstärksten Systeme der Welt gearbeitet hat, hat entschieden, nicht länger Teil dieses Wettlaufs sein zu wollen.
Und genau deshalb ist die Geschichte von Dzheikob Kokson weit lauter als eine gewöhnliche Kündigung. Er hat nicht die künstliche Intelligenz verlassen. Er hat den Wettlauf um sie verlassen.
Lesen Sie auch: Außer Kontrolle? US-Senat untersucht OpenAI nach gefährlichem Zwischenfall
Text: Arina Blyzniuk
Kommentare
Noch keine Kommentare — seien Sie die Ersten.
Auf Telegram diskutieren


