Revista
La IA hizo lo que nadie esperaba: las fotos de los usuarios quedaron expuestas al público

Tecnología

La IA hizo lo que nadie esperaba: las fotos de los usuarios quedaron expuestas al público

OpenAI confirmó que sus agentes de IA subieron 53 imágenes de usuarios a servicios de terceros. Cómo ocurrió el incidente y qué significa para la privacidad.

· 4 min de lectura

Traducido con IA. Original: Українська

53 imágenes que los usuarios subieron a ChatGPT terminaron en servicios de terceros para alojar imágenes, a través de acciones de los agentes de IA de OpenAI. La compañía informó del incidente el 25 de septiembre, y aquí hay un detalle importante: las fotos no se filtraron simplemente por un hackeo clásico. Las publicaron agentes que trabajaban en un entorno de investigación de OpenAI, al ejecutar tareas por su cuenta. La compañía reconoció que se trató de un uso indebido de los datos.

Sin embargo, la formulación de OpenAI es algo más compleja que el titular sobre «fotos expuestas al público». Las imágenes se alojaron en servicios de alojamiento de imágenes en forma de enlaces que no estaban indexados ni listados públicamente. Es decir, no significa que las 53 fotos aparecieran de repente en las portadas de sitios web ni que cualquiera pudiera encontrarlas mediante una búsqueda normal. Pero los enlaces sí podían localizarse, por lo que los datos salieron, de hecho, del entorno controlado. OpenAI ya eliminó la mayoría de estos materiales con ayuda de los proveedores de alojamiento, y el trabajo con el resto continúa.

La parte más interesante de la historia comienza después de la publicación. OpenAI afirmó que no puede determinar a quién pertenecen exactamente estas imágenes. La razón tiene que ver con la forma en que la compañía maneja los datos que pueden usarse para entrenar modelos: antes de eso, la información pasa por un proceso de anonimización que debe eliminar nombres, datos de contacto, metadatos y otros identificadores. Como resultado, la compañía no tiene una forma sencilla de tomar una imagen concreta encontrada en un sitio ajeno y vincularla con una cuenta específica. Por eso no fue posible advertir de forma individual a los usuarios afectados.

Hay además otro límite importante. Según OpenAI, se trataba de datos que estaban disponibles para su uso en el entrenamiento o la evaluación de modelos. Los datos de las cuentas corporativas y empresariales no se usan automáticamente para el entrenamiento, salvo que el administrador lo permita expresamente. En el caso de las cuentas de consumo la situación es distinta: los usuarios pueden optar por no permitir que sus conversaciones se utilicen para entrenar modelos. Por eso, la configuración de privacidad deja de ser una nota jurídica abstracta y se convierte en una parte real de cómo los servicios de IA tratan la información que se les entrega.

El incidente ocurrió antes de que OpenAI reforzara la protección de su entorno de investigación. La compañía lleva varios meses investigando casos en los que sus agentes se salieron del comportamiento esperado. En julio, OpenAI informó de un incidente con Hugging Face, tras el cual comenzó una revisión más amplia de la actividad de los agentes. Durante ese trabajo surgieron nuevos casos y, a septiembre, la compañía hablaba ya de decenas de incidentes problemáticos que requieren investigación.

Aquí cambia la idea habitual sobre los riesgos de la inteligencia artificial. Un chatbot clásico responde sobre todo a una consulta, y la persona decide por sí misma qué hacer después. Un agente de IA recibe herramientas y puede ejecutar una secuencia de acciones por su cuenta: abrir sitios web, trabajar con archivos, transferir información a servicios de terceros o usar otras herramientas digitales. Y cuando un sistema así comete un error, el problema ya no se limita a una respuesta incorrecta. El agente puede dejar tras de sí una acción digital muy real.

Aún más complicado es que las propias empresas no siempre ven de inmediato el panorama completo. Reuters informó de que OpenAI sigue revisando los registros de actividad de sus agentes y encuentra casos antes desconocidos. La compañía advirtió que la investigación completa puede durar meses. Parte de los incidentes no fueron detectados directamente por empleados de OpenAI, sino por investigadores externos.

Para el usuario común, esta historia no es importante porque «la IA de repente se volvió peligrosa». La pregunta práctica es otra: ¿cuánto control conserva una persona después de entregar sus datos a un sistema que puede actuar por su cuenta? Una fotografía que alguien sube para editarla, analizarla o crear una nueva imagen puede pasar por varios procesos internos y, en un sistema basado en agentes, incluso terminar en una cadena de acciones digitales externas.

OpenAI ya introdujo salvaguardas adicionales tras incidentes anteriores y afirmó que seguirá informando públicamente de los casos en que los agentes se comporten de forma indebida. Pero esta historia mostró un problema mucho más interesante: la privacidad de un servicio de IA depende no solo de lo que el modelo «sabe», sino también de lo que se le permite hacer. Y cuantos más agentes pasan de ser asesores a ejecutores, más importante resulta controlar no solo sus respuestas, sino también cada acción que pueden realizar en nombre del usuario.

Leer también: La IA encontró un sistema desconocido en el ADN: cómo Claude puede cambiar la búsqueda de herramientas para la ingeniería genética

Texto: Arina Blyzniuk

Comentarios

Aún no hay comentarios: sé el primero.

El comentario aparecerá tras la revisión de la redacción. Sin enlaces ni teléfonos. No hace falta correo.

Comentar en Telegram

Lee también