
¿La IA se salió de control? El Senado de EE. UU. investiga a OpenAI tras un incidente peligroso
El Senado de EE. UU. comenzó a investigar a OpenAI tras un incidente peligroso con agentes de IA. Durante las pruebas, los sistemas eludieron las restricciones y accedieron a Hugging Face.
Traducido con IA. Original: Українська
OpenAI quedó bajo investigación del Senado de EE. UU. después de que, durante unas pruebas internas, sus agentes de IA eludieran las restricciones establecidas e irrumpieran en el sistema de Hugging Face. Ahora los legisladores estadounidenses quieren averiguar no solo qué ocurrió exactamente, sino también por qué la compañía siguió con las pruebas tras detectar un comportamiento peligroso.
Se trata de un incidente ocurrido en julio, pero los nuevos detalles lo han vuelto mucho más grave. Según Reuters, durante las pruebas internas, los agentes de OpenAI lograron eludir el aislamiento, acceder a los sistemas de Hugging Face y utilizar sitios web públicos para coordinar sus acciones. Precisamente este comportamiento es ahora objeto de atención de los legisladores estadounidenses.
La investigación fue iniciada por el subcomité del Senado de EE. UU. para la gestión de catástrofes. Su presidente, el senador Dzhosh Khouli, envió a Sem Altman 16 preguntas y exige entregar documentos antes del 1 de octubre. El legislador quiere saber cuándo exactamente OpenAI se enteró de la violación de las restricciones, qué medidas de seguridad utilizó la compañía y por qué las pruebas no se detuvieron de inmediato.
Esta historia resulta especialmente incómoda para OpenAI por la escala de la propia compañía. ChatGPT hace tiempo que dejó de ser simplemente un chatbot. OpenAI crea agentes capaces de realizar por sí solos tareas complejas: trabajar con código, buscar información, interactuar con servicios digitales y ejecutar secuencias de acciones sin un control humano constante.
Aquí es precisamente donde se encuentra el nuevo límite del riesgo. Un modelo convencional responde a una consulta. Un agente recibe una tarea e intenta alcanzar el resultado por sí mismo. Si encuentra la forma de eludir las restricciones, el problema ya no está en una respuesta incorrecta, sino en que el sistema comienza a actuar fuera del escenario previsto por sus desarrolladores.
Y OpenAI no es la única compañía que se ha enfrentado a cuestiones similares. Reuters señala que, tras el incidente con Hugging Face, Anthropic y Meta también informaron sobre casos de comportamiento peligroso de sistemas de IA. Esto convierte poco a poco los fallos tecnológicos aislados en un problema sistémico para toda la industria.
El problema va más allá de la ciberseguridad. Esta semana, el director del Banco de Pagos Internacionales advirtió que el rápido desarrollo de la inteligencia artificial ya genera nuevos riesgos para la estabilidad financiera mundial. Según la evaluación de la organización, las cinco mayores empresas tecnológicas del mundo podrían gastar más de $1 billón en inteligencia artificial en 2025–2026, y las inversiones globales en este ámbito podrían alcanzar los $4 billones para 2030.
Es decir, las apuestas ya son demasiado altas como para tratar estos casos como simples errores de desarrollo. Las compañías invierten billones de dólares en una tecnología que se vuelve cada vez más autónoma, mientras los gobiernos intentan entender al mismo tiempo dónde termina el experimento y empieza el riesgo real.
Para OpenAI, esto podría convertirse en uno de los momentos más importantes desde la aparición de ChatGPT. La compañía se enfrenta a una pregunta para la que la industria tecnológica todavía no tiene una respuesta definitiva: cómo crear sistemas capaces de actuar por sí solos y, al mismo tiempo, garantizar que sigan bajo control humano.
Y ahora la respuesta a esta pregunta exigirá ya no solo a los ingenieros. Los legisladores estadounidenses empiezan a exigirla.
Lea también: OpenAI ya no quiere depender de NVIDIA: la compañía crea sus propios chips de IA
Texto: Arina Blyzniuk
Comentarios
Aún no hay comentarios: sé el primero.
Comentar en TelegramLee también
TSMC invertirá hasta 1000 millones de dólares en OpenAI y Anthropic: el fabricante de chips se convierte en parte del negocio de la IA
La IA encontró un sistema desconocido en el ADN: cómo Claude puede cambiar la búsqueda de herramientas para la ingeniería genética
13.000 millones de dólares por el futuro de la IA: NVIDIA compra Hugging Face y entra en la trastienda de la inteligencia artificial