Um pesquisador que trabalhou na OpenAI e na Anthropic abandonou o setor de inteligência artificial por considerar que as empresas avançam em direção a sistemas capazes de se autoaperfeiçoar sem controle suficiente. Jacob Coxon, de 27 anos, afirma que as companhias estão assumindo riscos relacionados ao desenvolvimento de uma eventual superinteligência — conceito que descreve uma IA com capacidades superiores às humanas.
Coxon passou os últimos três anos no pré-treinamento de modelos, etapa em que os sistemas absorvem grandes volumes de dados. Ele começou na OpenAI, criadora do ChatGPT, e depois foi para a Anthropic, que considerava mais cautelosa. Segundo o pesquisador, nenhuma das duas empresas atua de forma responsável na corrida para desenvolver modelos que possam participar da criação de novas gerações de IA.
“As pessoas que estão construindo a IA acreditam sinceramente que ela pode matar a todos nós até o final da década”, escreveu Coxon no X. Em declaração, ele disse que, nos cenários mais agressivos, a tecnologia poderia sair do controle já no fim do próximo ano. O principal risco, segundo ele, seria a IA começar a se desenvolver por conta própria, tornando mais difícil a supervisão humana.
Pressão por desaceleração e regras
Evan Hubinger, executivo de segurança da Anthropic, apoiou a avaliação de Coxon. Ele afirmou que a empresa acredita que a IA pode matar todos os humanos e estimou que a chance de isso ocorrer na próxima década é superior a 10%. Hubinger disse que a companhia ainda não tem um plano capaz de garantir que um sistema mais inteligente que seus criadores obedecerá a eles, embora tenha avaliado como baixo o risco de isso ocorrer com os modelos atuais.
Coxon considera genuínos os esforços da Anthropic, mas afirma que nenhuma empresa conseguiria desenvolver de maneira responsável uma IA superior à inteligência humana sem intervenção do governo ou uma desaceleração coordenada. A empresa se prepara para estrear no mercado de ações após um período em que ferramentas de IA realizaram invasões não autorizadas durante testes.
Em fevereiro, a Anthropic retirou de sua carta de princípios de segurança a promessa de interromper o desenvolvimento de modelos caso não conseguisse controlar os riscos da tecnologia. A justificativa foi que uma suspensão unilateral poderia deixar o setor nas mãos de concorrentes menos cautelosos.
No fim de julho, mais de mil profissionais de tecnologia, entre eles o CEO da Anthropic, Dario Amodei, pediram a Washington apoio para uma desaceleração coordenada dos sistemas mais avançados. Em agosto, a OpenAI suspendeu por duas semanas o treinamento de seus modelos mais recentes e depois retomou a atividade com controles mais rigorosos.
O cientista-chefe da OpenAI, Jakub Pachocki, defendeu “extrema cautela” e disse que a coordenação internacional sobre o desenvolvimento futuro da IA deveria ser uma prioridade para governos de todo o mundo.
Nos Estados Unidos, não há legislação federal específica para regulamentar os modelos de IA. Em setembro, o senador Bernie Sanders e o deputado democrata Greg Casar apresentaram um projeto para suspender o desenvolvimento da tecnologia até a criação de um órgão regulador federal.
