Revista
A IA saiu do controlo? Senado dos EUA começa a investigar a OpenAI após um incidente perigoso

Tecnologia

A IA saiu do controlo? Senado dos EUA começa a investigar a OpenAI após um incidente perigoso

O Senado dos EUA começou a investigar a OpenAI após um incidente perigoso com agentes de IA. Durante os testes, o sistema contornou as restrições e obteve acesso à Hugging Face.

· 3 min de leitura

Traduzido com IA. Original: Українська

A OpenAI ficou sob investigação do Senado dos EUA depois de, durante testes internos, os seus agentes de IA terem contornado as restrições estabelecidas e penetrado no sistema da Hugging Face. Agora, os legisladores norte-americanos querem apurar não apenas o que exatamente aconteceu, mas também por que razão a empresa prosseguiu com os testes depois de detetado o comportamento perigoso.

Trata-se de um incidente ocorrido ainda em julho, mas novos pormenores tornaram-no muito mais grave. Segundo a Reuters, durante os testes internos, os agentes da OpenAI conseguiram contornar o isolamento, aceder aos sistemas da Hugging Face e usar sítios públicos para coordenar as suas ações. É precisamente este comportamento que agora chama a atenção dos legisladores norte-americanos.

A investigação foi iniciada pela subcomissão do Senado dos EUA para a gestão de catástrofes. O seu presidente, o senador Dzhosh Khouli, enviou a Sem Altman 16 perguntas e exige a entrega de documentos até 1 de outubro. O legislador quer saber quando é que a OpenAI tomou conhecimento das violações das restrições, que medidas de segurança a empresa utilizou e por que razão os testes não foram imediatamente suspensos.

Esta história é particularmente incómoda para a OpenAI devido à dimensão da própria empresa. O ChatGPT há muito que deixou de ser apenas um chatbot. A OpenAI cria agentes capazes de executar tarefas complexas por conta própria: trabalhar com código, pesquisar informação, interagir com serviços digitais e realizar sequências de ações sem controlo humano constante.

É aqui que passa a nova fronteira de risco. Um modelo comum responde a um pedido. Um agente recebe uma tarefa e tenta alcançar o resultado por si próprio. Se encontrar forma de contornar as restrições, o problema já não está numa resposta errada, mas no facto de o sistema começar a agir fora do cenário previsto pelos seus programadores.

E a OpenAI não é a única empresa confrontada com questões semelhantes. A Reuters refere que, após o incidente com a Hugging Face, a Anthropic e a Meta também relataram casos de comportamento perigoso dos seus sistemas de IA. Isto transforma, gradualmente, falhas tecnológicas isoladas numa questão sistémica para toda a indústria.

O problema ultrapassa o domínio da cibersegurança. Esta semana, o responsável do Banco de Pagamentos Internacionais alertou que o rápido desenvolvimento da inteligência artificial já cria novos riscos para a estabilidade financeira mundial. Segundo a avaliação da instituição, as cinco maiores empresas tecnológicas do mundo poderão gastar mais de 1 bilião de dólares em inteligência artificial em 2025–2026, e os investimentos globais neste setor poderão atingir 4 biliões de dólares até 2030.

Ou seja, as apostas são já demasiado altas para tratar casos deste tipo como erros comuns de desenvolvimento. As empresas investem biliões de dólares numa tecnologia que se torna cada vez mais autónoma, enquanto os governos tentam, ao mesmo tempo, perceber onde termina a experiência e começa o risco real.

Para a OpenAI, este pode tornar-se um dos momentos mais importantes desde o aparecimento do ChatGPT. A empresa encontra-se perante uma pergunta para a qual a indústria tecnológica ainda não tem resposta definitiva: como criar sistemas capazes de agir de forma autónoma e, ao mesmo tempo, garantir que continuam sob controlo humano.

E agora a resposta a esta pergunta vai exigir não apenas engenheiros. Os legisladores norte-americanos já começaram a exigi-la.

Leia também: A OpenAI já não quer depender da NVIDIA: a empresa está a criar os seus próprios chips de IA

Texto: Arina Blyzniuk

Comentários

Ainda não há comentários: seja o primeiro.

O comentário aparece depois de a redação o verificar. Sem ligações nem números de telefone. Não é preciso email.

Comentar no Telegram

Leia também