Um pesquisador que trabalhou no desenvolvimento de sistemas de inteligência artificial na Anthropic, empresa responsável pelo chatbot Claude, pediu demissão e fez um alerta extremo sobre os riscos da tecnologia. Segundo Jacob Coxon, profissionais que trabalham na área acreditam seriamente que uma inteligência artificial avançada poderia levar à extinção da humanidade até o final desta década.
Coxon anunciou sua saída da Anthropic nesta semana, após cerca de três anos trabalhando com pesquisa de treinamento de modelos de IA, período que incluiu passagens pela própria Anthropic e pela OpenAI. Em uma publicação nas redes sociais, ele afirmou que as duas empresas estariam avançando rapidamente em direção a sistemas de inteligência artificial capazes de se aprimorar sozinhos, sem que os mecanismos de segurança acompanhem o ritmo do desenvolvimento.
Segundo o pesquisador, a preocupação não seria apenas uma hipótese distante. Coxon afirmou que pessoas envolvidas diretamente na construção desses sistemas “acreditam seriamente” que a IA poderia matar toda a humanidade até o fim da década. Ele também classificou a situação como uma corrida tecnológica na qual as empresas estariam “apostando nossas vidas”.
Outro pesquisador da Anthropic reforçou o alerta
A declaração ganhou ainda mais repercussão depois que Evan Hubinger, pesquisador da Anthropic especializado em segurança e alinhamento de inteligência artificial, respondeu publicamente a Coxon.
Hubinger afirmou que a preocupação é real dentro do setor e estimou pessoalmente em mais de 10% a possibilidade de uma IA causar a extinção humana na próxima década. Ele também declarou que a Anthropic ainda não possui uma solução capaz de garantir que uma futura superinteligência permaneça alinhada aos objetivos humanos.
Outro pesquisador da Anthropic, Samuel Marks, também afirmou que existem desenvolvedores de IA que consideram possível a ocorrência de consequências catastróficas ou até a extinção humana nos próximos anos.
Como uma IA poderia representar uma ameaça?
Os pesquisadores não estão necessariamente descrevendo um cenário semelhante ao dos filmes, com robôs perseguindo seres humanos. O principal temor entre especialistas em segurança de IA envolve sistemas muito mais inteligentes que os humanos, capazes de operar de forma autônoma, desenvolver estratégias, utilizar recursos digitais e eventualmente resistir às tentativas de controle.
Uma das preocupações é o chamado desalinhamento, situação em que uma inteligência artificial extremamente poderosa poderia perseguir seus objetivos de maneira incompatível com os interesses humanos.
Outro risco envolve o uso malicioso dessas ferramentas. Sistemas avançados poderiam, em determinados cenários, ser utilizados para ataques cibernéticos, manipulação de informações ou desenvolvimento de tecnologias perigosas. O Wall Street Journal destacou justamente esses dois grandes grupos de riscos: a perda de controle sobre sistemas altamente autônomos e o uso deliberadamente nocivo da IA por seres humanos.
Alerta não significa que a extinção em 2030 seja uma previsão
Apesar do impacto das declarações, não existe evidência científica de que a humanidade será destruída pela inteligência artificial até 2030.
A data citada por Coxon representa uma avaliação de risco e um alerta sobre a velocidade do desenvolvimento da tecnologia. A estimativa de mais de 10% mencionada por Hubinger também é uma avaliação pessoal, e não uma conclusão científica consensual.
O debate, entretanto, ganhou força justamente porque os alertas vêm de pessoas que trabalham no desenvolvimento dos próprios sistemas de IA.
A Anthropic, por sua vez, mantém uma forte atuação na área de segurança e publicou recentemente pesquisas sobre comportamentos potencialmente perigosos de agentes de inteligência artificial. A empresa afirma trabalhar no desenvolvimento de mecanismos para compreender, avaliar e controlar sistemas cada vez mais avançados.
O episódio reacende uma das maiores discussões da atual corrida tecnológica: se os próprios pesquisadores que estão construindo a próxima geração de inteligências artificiais temem que elas possam superar nossa capacidade de controlá-las, quão rápido o desenvolvimento dessa tecnologia deveria avançar?
