Magazine
Dzheikob Kokson

Économie

« Nous jouons avec notre propre vie » : l'homme qui a construit l'IA a quitté Anthropic et tiré la sonnette d'alarme

Le chercheur d'Anthropic Dzheikob Kokson a quitté l'entreprise et mis en garde contre les dangers de la course à une intelligence artificielle ultra-puissante. Sa déclaration a dépassé les 100 millions de vues et suscité la réaction du Congrès américain.

· 4 min de lecture

Traduit avec l'IA. Original : Українська

Le chercheur Dzheikob Kokson, 27 ans, a quitté Anthropic après trois ans de travail sur des systèmes d'intelligence artificielle et a publié une déclaration qui, en quelques heures, est devenue l'un des grands sujets technologiques de la semaine. Son message a été vu plus de 100 millions de fois. La raison de son départ : la conviction qu'Anthropic et OpenAI avancent trop vite vers des systèmes capables de se perfectionner eux-mêmes, alors que les questions de sécurité ne suivent pas le rythme du développement de la technologie.

Kokson a travaillé sur le pré-entraînement des modèles d'abord chez OpenAI, puis chez Anthropic, une entreprise qui a bâti sa réputation précisément sur la promesse de placer la sécurité de l'intelligence artificielle au-dessus de la vitesse. C'est pourquoi son départ a suscité une attention particulière. Il ne critique pas cette technologie en observateur extérieur : il a été pendant plusieurs années l'une des personnes qui la créaient directement.

Dzheikob Kokson
Dzheikob Kokson

Dans sa déclaration, le chercheur accuse Anthropic et OpenAI de se livrer en pratique à une course à des systèmes toujours plus puissants, chacune cherchant à devancer l'autre et ses concurrents. Selon lui, la prochaine étape décisive sera une intelligence artificielle capable de s'auto-améliorer : un système qui ne se contentera pas d'accomplir les tâches humaines, mais qui pourra améliorer ses propres capacités.

C'est précisément ce moment que redoutent les partisans d'un développement sûr de l'IA. Si un système peut créer beaucoup plus vite que les humains de nouvelles versions de lui-même, le contrôle de son évolution pourrait devenir bien plus difficile qu'aujourd'hui. Kokson affirme qu'une partie des personnes travaillant dans le secteur considère ce scénario bien plus sérieusement en privé que ne le laissent voir les déclarations publiques des entreprises.

Ses propos ont presque immédiatement été confirmés par Evan Hubinher, chercheur senior chez Anthropic, qui est chargé de l'orientation visant à aligner l'intelligence artificielle sur les objectifs humains. Il a déclaré qu'il existe effectivement au sein de l'entreprise la conviction qu'une IA ultra-puissante pourrait potentiellement anéantir l'humanité, et il estime cette probabilité à plus de 10 % pour la prochaine décennie. Il a toutefois souligné qu'Anthropic s'efforce de résoudre le problème de la sécurité, sans avoir encore de solution définitive.

Cette déclaration a fait particulièrement de bruit à cause des événements de ces derniers mois. Anthropic et OpenAI ont déjà signalé des cas où leurs modèles, pendant des tests, sont sortis d'environnements isolés et ont obtenu un accès non autorisé à de vrais systèmes informatiques. Les entreprises ont depuis renforcé leurs contrôles et leurs restrictions supplémentaires, mais ces cas sont devenus l'un des arguments de ceux qui jugent la course actuelle trop rapide.

Anthropic reste pourtant l'une des entreprises les plus influentes de la course mondiale à l'intelligence artificielle. Son modèle Claude concurrence les produits d'OpenAI, de Google et d'autres géants technologiques. L'entreprise tente à la fois d'accroître la puissance de ses systèmes et de démontrer qu'elle peut le faire de manière plus sûre que ses rivaux.

C'est là qu'apparaît le paradoxe central. Les entreprises qui créent l'IA la plus puissante doivent en même temps convaincre le monde qu'elles sont capables de la contrôler. Or, aujourd'hui, des personnes ayant travaillé au sein de ces entreprises remettent publiquement en question précisément cette hypothèse.

L'histoire de Kokson a déjà largement dépassé les limites de la Silicon Valley. Après sa déclaration, les législateurs américains ont commencé à parler plus activement de la nécessité d'un contrôle public sur le développement de l'IA ultra-puissante. Le Congrès examine des vérifications indépendantes des systèmes, une obligation de signaler les incidents dangereux et d'autres mécanismes de surveillance.

Parallèlement, une polémique politique a déjà éclaté autour de Kokson lui-même. Une partie des critiques l'accuse de chercher à effrayer la société pour renforcer la régulation du secteur. D'autres estiment que de tels avertissements publics sont nécessaires si les entreprises technologiques avancent réellement plus vite que les gouvernements ne parviennent à établir des règles.

Fait révélateur, sa déclaration n'est pas devenue seulement un débat technologique sérieux, mais aussi un mème : les internautes ont commencé à parodier le ton dramatique de son message annonçant son départ. Cela montre autre chose : les gens craignent à la fois le développement de l'IA, s'y intéressent et transforment déjà la peur de l'avenir en un élément de la culture de masse.

On ne sait pas encore si l'humanité se rapproche du moment où l'intelligence artificielle pourrait échapper au contrôle humain. Mais une chose est déjà acquise : une personne qui a travaillé pendant plusieurs années à la création des systèmes les plus puissants du monde a décidé qu'elle ne voulait plus faire partie de cette course.

Et c'est précisément pourquoi l'histoire de Dzheikob Kokson a pris une ampleur bien supérieure à celle d'un simple départ. Il n'a pas quitté l'intelligence artificielle. Il a quitté la course pour la contrôler.

À lire aussi : L'IA a-t-elle échappé à tout contrôle ? Le Sénat américain enquête sur OpenAI après un incident dangereux

Texte : Arina Blyzniuk

Commentaires

Aucun commentaire pour l'instant : soyez le premier.

Votre commentaire s'affiche après vérification par la rédaction. Pas de liens ni de numéros de téléphone. Aucun e-mail n'est demandé.

En discuter sur Telegram

À lire aussi