Jacob Coxon, pesquisador britânico que trabalhou na OpenAI e na Anthropic, deixou a indústria de inteligência artificial após alertar que a corrida por sistemas cada vez mais poderosos pode terminar em uma catástrofe. Segundo ele, profissionais que desenvolvem a tecnologia acreditam que ela pode provocar a extinção humana ainda nesta década.
Coxon anunciou a saída da Anthropic nesta terça-feira (8), depois de passar os últimos três anos trabalhando com pré-treinamento de modelos nas duas empresas. “As pessoas que estão construindo a IA acreditam sinceramente que ela pode matar todos até o fim da década. Isto não é uma jogada de marketing”, afirmou. O pesquisador acusou OpenAI e Anthropic de correrem em direção a uma superinteligência capaz de se aperfeiçoar sozinha enquanto “apostam com nossas vidas”.
Em entrevista à Wired, o ex-funcionário disse que considera os próximos um ou dois anos decisivos para a segurança da tecnologia. A preocupação central é o chamado autoaperfeiçoamento recursivo, cenário em que sistemas de IA passam a auxiliar diretamente na criação de versões ainda mais capazes de si mesmos. Coxon argumenta que, sem mecanismos confiáveis de controle, uma inteligência muito superior à humana poderia buscar recursos, realizar ataques digitais ou resistir a tentativas de desligamento.
O alerta ganhou peso depois que Evan Hubinger, líder de pesquisas de alinhamento da Anthropic, concordou publicamente com parte da avaliação. “Nós realmente acreditamos, sinceramente, que a IA poderia matar todos os seres humanos”, escreveu ele, estimando pessoalmente em mais de 10% a possibilidade de a tecnologia eliminar a humanidade na próxima década. A estimativa representa a avaliação individual do pesquisador, e não uma previsão comprovada ou uma posição oficial da empresa.
A Anthropic afirmou à Wired que sempre reconheceu tanto os benefícios quanto os riscos sem precedentes da IA e defendeu um mecanismo “legal e verificável” para que empresas coordenem o ritmo de lançamento de modelos mais poderosos. A repercussão das declarações também chegou a Washington: nesta quinta-feira (10), parlamentares dos Estados Unidos ampliaram os pedidos por auditorias independentes e novas regras de segurança para sistemas avançados.
