Jacob Coxon, britânico de 27 anos que trabalhou na OpenAI e na Anthropic, deixou o setor de inteligência artificial por considerar insuficientes as garantias de segurança na corrida por sistemas capazes de superar a inteligência humana.
Durante os últimos três anos, Coxon atuou no pré-treinamento de modelos de IA, etapa em que os sistemas recebem grandes volumes de dados. Primeiro, trabalhou na OpenAI, responsável pelo ChatGPT. Depois, foi para a Anthropic, que ele considerava mais cuidadosa com os riscos da tecnologia.
Ao anunciar sua saída, o pesquisador afirmou que sistemas avançados poderiam escapar do controle humano. Em uma publicação no X, escreveu: “As pessoas que estão construindo a IA acreditam sinceramente que ela pode matar a todos nós até o final da década.”
Em entrevista ao The Wall Street Journal, Coxon disse que, nas projeções mais extremas, problemas de controle poderiam surgir já no fim do próximo ano. Entre os riscos citados está o autoaperfeiçoamento: a possibilidade de sistemas ajudarem a desenvolver versões ainda mais avançadas da própria tecnologia.
Alertas dentro da Anthropic
Evan Hubinger, executivo da área de segurança da Anthropic, apoiou a avaliação. Ele afirmou que pesquisadores consideram seriamente a hipótese de sistemas avançados representarem uma ameaça à humanidade e estimou em mais de 10% a probabilidade de um cenário desse tipo ocorrer na próxima década. Ao mesmo tempo, disse que o risco dos modelos disponíveis atualmente é baixo.
Hubinger reconheceu que a Anthropic ainda não tem um método capaz de garantir que uma inteligência artificial superior às capacidades humanas continuaria obedecendo aos comandos de seus desenvolvedores.
Coxon também disse reconhecer os esforços da Anthropic para aumentar a segurança. Na avaliação dele, o problema está na disputa entre as empresas para chegar primeiro a sistemas mais poderosos. “Na Anthropic, os riscos envolvidos são bem compreendidos, mas eles estão presos em uma corrida para chegar lá primeiro”, afirmou.
Empresas e governos sob pressão
Para Coxon, empresas privadas não conseguiriam conduzir sozinhas, com segurança, o desenvolvimento de uma inteligência artificial superior à humana. Ele defende a atuação dos governos ou um acordo entre as principais companhias para desacelerar projetos avançados.
Em fevereiro, a Anthropic retirou de sua política de segurança a previsão de interromper o avanço dos modelos caso não conseguisse controlar os riscos. A empresa justificou que uma paralisação unilateral poderia deixar a liderança tecnológica com concorrentes menos cautelosos.
No fim de julho, mais de mil profissionais de tecnologia, entre eles o CEO da Anthropic, Dario Amodei, defenderam que autoridades dos Estados Unidos apoiassem uma desaceleração coordenada. Em agosto, a OpenAI interrompeu por duas semanas o treinamento de seus modelos mais recentes e retomou o trabalho sob controles mais rigorosos.
O cientista-chefe da OpenAI, Jakub Pachocki, defendeu que a coordenação internacional sobre o futuro da IA se torne prioridade para governos de todo o mundo.
O debate também chegou ao Congresso dos Estados Unidos. Em setembro, o senador Bernie Sanders e o deputado democrata Greg Casar apresentaram uma proposta para suspender temporariamente o desenvolvimento de sistemas de IA até a criação de um órgão federal de regulamentação.
