Revista
Dzheikob Kokson

Negócios

«Estamos a brincar com a nossa própria vida»: a pessoa que construiu a IA saiu da Anthropic e deu o alarme

O investigador da Anthropic Dzheikob Kokson deixou a empresa e alertou para o perigo da corrida por uma IA superpoderosa. A sua declaração ultrapassou 100 milhões de visualizações e provocou uma reação do Congresso dos EUA.

· 4 min de leitura

Traduzido com IA. Original: Українська

O investigador de 27 anos Dzheikob Kokson deixou a Anthropic após três anos de trabalho em sistemas de inteligência artificial e publicou uma declaração que, em poucas horas, se tornou uma das principais notícias tecnológicas da semana. A sua publicação foi vista mais de 100 milhões de vezes. O motivo da saída é a convicção de que a Anthropic e a OpenAI avançam demasiado depressa rumo a sistemas capazes de se aperfeiçoar a si próprios, enquanto as questões de segurança não acompanham o ritmo do desenvolvimento da tecnologia.

Kokson trabalhou no pré-treino de modelos primeiro na OpenAI e depois na Anthropic, uma empresa que construiu a sua reputação precisamente na promessa de colocar a segurança da inteligência artificial acima da velocidade. Por isso, a sua saída chamou especialmente a atenção. Não critica a tecnologia como observador externo — durante vários anos foi uma das pessoas que a criavam diretamente.

Dzheikob Kokson
Dzheikob Kokson

Na sua declaração, o investigador acusou a Anthropic e a OpenAI de, na prática, competirem na criação de sistemas cada vez mais poderosos, tentando ultrapassar-se uma à outra e aos concorrentes. Na sua opinião, a próxima etapa decisiva será a inteligência artificial autoaperfeiçoável — um sistema que não se limitará a executar tarefas humanas, mas que será capaz de melhorar as suas próprias capacidades.

É precisamente este momento que preocupa os defensores do chamado desenvolvimento seguro da IA. Se um sistema conseguir criar novas versões de si próprio muito mais depressa do que as pessoas, o controlo sobre a sua evolução poderá tornar-se muito mais difícil do que é hoje. Kokson afirma que parte das pessoas que trabalham na indústria encara privadamente este cenário com muito mais seriedade do que se depreende das declarações públicas das empresas.

As suas palavras foram quase imediatamente confirmadas pelo investigador sénior da Anthropic Evan Hubinher, responsável pela área de alinhamento da inteligência artificial com os objetivos humanos. Afirmou que dentro da empresa existe de facto a convicção de que uma IA superpoderosa pode potencialmente destruir a humanidade, e estimou essa probabilidade em mais de 10% na próxima década. Ao mesmo tempo, sublinhou que a Anthropic está a tentar resolver o problema da segurança, mas ainda não tem uma solução definitiva.

Esta declaração tornou-se especialmente sonora devido aos acontecimentos dos últimos meses. A Anthropic e a OpenAI já relataram casos em que os seus modelos, durante os testes, saíram de ambientes isolados e obtiveram acesso não autorizado a sistemas informáticos reais. Depois disso, as empresas reforçaram o controlo e as restrições adicionais, mas precisamente estes casos tornaram-se um dos argumentos de quem considera a corrida atual demasiado rápida.

Ao mesmo tempo, a própria Anthropic continua a ser uma das empresas mais influentes na corrida mundial pela inteligência artificial. O seu modelo Claude concorre com os produtos da OpenAI, da Google e de outros gigantes tecnológicos. A empresa procura, em simultâneo, aumentar a potência dos seus sistemas e demonstrar que pode fazê-lo de forma mais segura do que os concorrentes.

É aqui que surge o principal paradoxo. As empresas que criam a IA mais poderosa têm, ao mesmo tempo, de convencer o mundo de que a conseguem controlar. Mas agora, as pessoas que trabalharam dentro dessas empresas questionam publicamente precisamente esse pressuposto.

A história de Kokson já ultrapassou os limites do Silicon Valley. Depois da sua declaração, os legisladores norte-americanos começaram a falar com mais insistência da necessidade de controlo estatal sobre o desenvolvimento da IA superpoderosa. No Congresso discutem-se verificações independentes dos sistemas, a notificação obrigatória de incidentes perigosos e outros mecanismos de supervisão.

Ao mesmo tempo, já surgiu em torno de Kokson uma polémica política. Parte dos críticos acusa-o de tentar assustar a sociedade para reforçar a regulação da indústria. Outros consideram que precisamente este tipo de alertas públicos é necessário se as empresas tecnológicas avançam realmente mais depressa do que os governos conseguem criar regras.

É revelador que a sua declaração se tenha tornado não apenas uma discussão tecnológica séria, mas também um meme: os utilizadores das redes sociais começaram a parodiar o tom dramático da sua mensagem de demissão. Isto mostra outra coisa — as pessoas temem ao mesmo tempo o desenvolvimento da IA, fascinam-se com ela e já transformam o medo do futuro em parte da cultura de massas.

Ainda não se sabe se a humanidade se aproxima realmente do momento em que a inteligência artificial poderá escapar ao controlo humano. Mas há um facto que já é certo: uma pessoa que durante vários anos trabalhou na criação dos sistemas mais poderosos do mundo decidiu que já não quer fazer parte desta corrida.

E é precisamente por isso que a história de Dzheikob Kokson se tornou muito mais sonora do que uma simples demissão. Não saiu por causa da inteligência artificial. Saiu por causa da corrida por ela.

Leia também: A IA saiu do controlo? O Senado dos EUA começou a investigar a OpenAI após um incidente perigoso

Texto: Arina Blyzniuk

Comentários

Ainda não há comentários: seja o primeiro.

O comentário aparece depois de a redação o verificar. Sem ligações nem números de telefone. Não é preciso email.

Comentar no Telegram

Leia também