Revista
Dzheikob Kokson

Negocios

«Estamos jugando con nuestra propia vida»: la persona que construía IA dejó Anthropic y encendió las alarmas

El investigador de Anthropic Dzheikob Kokson abandonó la compañía y advirtió sobre el peligro de la carrera por una IA superpotente. Su declaración superó los 100 millones de visualizaciones y provocó una reacción en el Congreso de EE. UU.

· Actualizado · 4 min de lectura

Traducido con IA. Original: Українська

El investigador de 27 años Dzheikob Kokson dejó Anthropic tras tres años de trabajo en sistemas de inteligencia artificial y publicó una declaración que, en cuestión de horas, se convirtió en una de las principales noticias tecnológicas de la semana. Su publicación fue vista más de 100 millones de veces. El motivo de su salida es la convicción de que Anthropic y OpenAI avanzan demasiado rápido hacia sistemas capaces de mejorarse a sí mismos, mientras que las cuestiones de seguridad no logran seguir el ritmo del desarrollo de la tecnología.

Kokson trabajó en el preentrenamiento de modelos primero en OpenAI y luego en Anthropic, una empresa que construyó su reputación precisamente con la promesa de poner la seguridad de la IA por delante de la velocidad. Por eso su salida atrajo una atención especial. No critica la tecnología como un observador externo: durante varios años fue una de las personas que la creaban directamente.

Dzheikob Kokson
Dzheikob Kokson

En su declaración, el investigador acusó a Anthropic y OpenAI de competir, en realidad, por crear sistemas cada vez más potentes, intentando superarse entre sí y a sus rivales. En su opinión, la siguiente etapa decisiva será la IA capaz de automejorarse: un sistema que no solo podrá realizar tareas humanas, sino también mejorar sus propias capacidades.

Precisamente este momento es el que temen los defensores del desarrollo seguro de la IA. Si un sistema puede crear nuevas versiones de sí mismo mucho más rápido que las personas, el control sobre su desarrollo podría volverse mucho más difícil que hoy. Kokson afirma que parte de las personas que trabajan dentro de la industria consideran en privado este escenario mucho más grave de lo que se desprende de las declaraciones públicas de las empresas.

Sus palabras fueron confirmadas casi de inmediato por el investigador sénior de Anthropic Evan Hubinher, responsable de la línea de alineación de la inteligencia artificial con los objetivos humanos. Afirmó que dentro de la compañía existe realmente la convicción de que una IA superpotente podría, potencialmente, acabar con la humanidad, y estimó esa probabilidad en más de un 10 % durante la próxima década. Al mismo tiempo, subrayó que Anthropic intenta resolver el problema de la seguridad, pero todavía no tiene una solución definitiva.

Esta declaración resultó especialmente resonante por los acontecimientos de los últimos meses. Anthropic y OpenAI ya informaron de casos en los que sus modelos, durante las pruebas, salieron de los entornos aislados y obtuvieron acceso no autorizado a sistemas informáticos reales. Después, las compañías reforzaron el control y añadieron restricciones, pero precisamente estos casos se han convertido en uno de los argumentos de quienes consideran que la carrera actual es demasiado rápida.

Al mismo tiempo, Anthropic sigue siendo una de las empresas más influyentes en la carrera mundial por la inteligencia artificial. Su modelo Claude compite con los productos de OpenAI, Google y otros gigantes tecnológicos. La compañía intenta, a la vez, aumentar la potencia de sus sistemas y demostrar que puede hacerlo de forma más segura que sus competidores.

Aquí surge la paradoja principal. Las empresas que crean la IA más potente deben, al mismo tiempo, convencer al mundo de que son capaces de controlarla. Pero ahora las personas que trabajaron dentro de esas compañías cuestionan públicamente precisamente esa suposición.

La historia de Kokson ya ha trascendido mucho más allá de Silicon Valley. Tras su declaración, los legisladores estadounidenses empezaron a hablar con más intensidad de la necesidad de un control estatal sobre el desarrollo de la IA superpotente. En el Congreso se debaten las auditorías independientes de los sistemas, la notificación obligatoria de incidentes peligrosos y otros mecanismos de supervisión.

Al mismo tiempo, en torno a Kokson ya se ha generado una polémica política. Algunos críticos lo acusan de intentar asustar a la sociedad para reforzar la regulación de la industria. Otros consideran que precisamente este tipo de advertencias públicas son necesarias si las empresas tecnológicas avanzan más rápido de lo que los gobiernos logran crear normas.

Resulta significativo que su declaración no solo se haya convertido en un debate tecnológico serio, sino también en un meme: los usuarios de las redes sociales empezaron a parodiar el tono dramático de su mensaje de despedida. Esto muestra otra cosa: la gente teme el desarrollo de la IA, se fascina con ella y ya convierte el miedo al futuro en parte de la cultura de masas.

Todavía no está claro si la humanidad se acerca realmente al momento en que la inteligencia artificial pueda salirse del control humano. Pero un hecho ya es indiscutible: una persona que durante varios años trabajó en la creación de los sistemas más potentes del mundo decidió que ya no quiere formar parte de esa carrera.

Por eso la historia de Dzheikob Kokson se ha vuelto mucho más sonada que una simple renuncia. No se fue de la inteligencia artificial. Se fue de la carrera por ella.

Leer también: ¿La IA se salió de control? El Senado de EE. UU. investiga a OpenAI tras un incidente peligroso

Texto: Arina Blyzniuk

Comentarios

Aún no hay comentarios: sé el primero.

El comentario aparecerá tras la revisión de la redacción. Sin enlaces ni teléfonos. No hace falta correo.

Comentar en Telegram

Lee también