Revista
A IA fez o que ninguém esperava: fotografias de utilizadores acabaram em acesso público

Tecnologia

A IA fez o que ninguém esperava: fotografias de utilizadores acabaram em acesso público

53 imagens que os utilizadores tinham carregado para o ChatGPT acabaram em serviços de alojamento de imagens de terceiros, devido às ações de agentes de IA da OpenAI.

· 4 min de leitura

Traduzido com IA. Original: Українська

53 imagens que os utilizadores tinham carregado para o ChatGPT acabaram em serviços de alojamento de imagens de terceiros, devido às ações de agentes de IA da OpenAI. A empresa anunciou o incidente a 25 de setembro, e há aqui um pormenor importante: as fotografias não foram simplesmente «vazadas» através de uma invasão clássica. Foram publicadas por agentes que operavam num ambiente de investigação da OpenAI, executando tarefas de forma autónoma. A empresa reconheceu que se tratou de uma utilização indevida dos dados.

Ainda assim, a formulação da OpenAI é um pouco mais complexa do que o título sobre «fotografias de acesso público». As imagens foram colocadas em serviços de alojamento de imagens sob a forma de ligações que não estavam indexadas nem listadas publicamente. Ou seja, não significa que as 53 fotografias tenham surgido de repente nas páginas principais de sites e ficado acessíveis a qualquer pessoa através de uma pesquisa comum. Mas as ligações em si podiam ser encontradas, e por isso os dados saíram, de facto, do ambiente controlado. A maioria destes materiais já foi removida pela OpenAI com a ajuda dos fornecedores de alojamento, e o trabalho sobre o restante continua.

A parte mais interessante da história começa depois da própria publicação. A OpenAI afirmou que não consegue determinar a quem pertencem estas imagens. A razão está relacionada com a forma como a empresa trabalha com os dados que podem ser usados para treinar modelos: antes disso, a informação passa por um processo de anonimização, que deve remover nomes, dados de contacto, metadados e outros identificadores. Como resultado, a empresa não tem uma forma simples de pegar numa imagem concreta encontrada num site de terceiros e devolvê-la a uma conta específica. Por isso, não foi possível alertar diretamente os utilizadores afetados.

Há ainda outro limite importante. Segundo a OpenAI, tratava-se de dados disponíveis para utilização no treino ou na avaliação de modelos. Os dados das contas empresariais e de negócios não são usados automaticamente para treino, a menos que o administrador tenha autorizado expressamente. Nas contas de consumidor comuns a situação é diferente: os utilizadores podem recusar a utilização das suas conversas para treino. Por isso, a questão das definições de privacidade deixa de ser uma nota jurídica abstrata e passa a ser uma parte real de como os serviços de IA tratam a informação que lhes é confiada.

O incidente ocorreu antes de a OpenAI ter reforçado a proteção do seu ambiente de investigação. A empresa investiga há vários meses casos em que os seus agentes ultrapassaram o comportamento esperado. Em julho, a OpenAI reportou um incidente com a Hugging Face, após o qual iniciou uma verificação mais ampla da atividade dos agentes. No decurso deste trabalho foram surgindo novos casos e, em setembro, a empresa falava já de dezenas de incidentes problemáticos que exigem investigação.

É aqui que muda a perceção habitual sobre os riscos da inteligência artificial. Um chatbot clássico responde sobretudo a um pedido, e é a pessoa que decide o que fazer a seguir. Um agente de IA recebe ferramentas e pode executar uma sequência de ações de forma autónoma: abrir sites, trabalhar com ficheiros, transmitir informação a serviços de terceiros ou utilizar outras ferramentas digitais. E quando um sistema desses comete um erro, o problema já não se limita a uma resposta incorreta. O agente pode deixar para trás uma ação digital bem real.

Ainda mais complicado é o facto de as próprias empresas nem sempre verem logo o quadro completo. A Reuters noticiou que a OpenAI continua a analisar os registos de atividade dos seus agentes, encontrando casos anteriormente desconhecidos. A empresa avisou que uma investigação completa pode demorar meses. Parte dos incidentes foi detetada não diretamente por funcionários da OpenAI, mas por investigadores externos.

Para o utilizador comum, esta história é importante não porque «a IA se tornou subitamente perigosa». A questão prática é outra: quanto controlo mantém uma pessoa sobre os seus dados depois de os entregar a um sistema que pode agir por conta própria? Uma fotografia que alguém carrega para edição, análise ou criação de uma nova imagem pode passar por vários processos internos e, num sistema de agentes, acabar ainda por fazer parte de uma cadeia de ações digitais externas.

A OpenAI já introduziu salvaguardas adicionais na sequência dos incidentes anteriores e afirmou que continuará a comunicar publicamente os casos em que os agentes se comportem de forma inadequada. Mas esta história mostrou um problema bem mais interessante: a privacidade de um serviço de IA depende não só daquilo que o modelo «sabe», mas também daquilo que lhe é permitido fazer. E quanto mais agentes passarem de consultores a executores, mais importante será controlar não apenas as suas respostas, mas também cada ação que podem realizar em nome do utilizador.

Leia também: IA encontrou um sistema desconhecido no ADN: como o Claude pode mudar a pesquisa de ferramentas para engenharia genética

Texto: Arina Blyzniuk

Comentários

Ainda não há comentários: seja o primeiro.

O comentário aparece depois de a redação o verificar. Sem ligações nem números de telefone. Não é preciso email.

Comentar no Telegram

Leia também