Jacob Coxon, pesquisador britânico de inteligência artificial, deixou o setor na terça-feira (8) e acusou OpenAI e Anthropic de assumir riscos excessivos no desenvolvimento de sistemas avançados. Aos 27 anos, ele havia trabalhado nos últimos três anos com pré-treinamento, etapa em que os modelos absorvem grandes volumes de informação.
Coxon passou pela OpenAI e, neste ano, foi para a Anthropic por considerar que a empresa adotava uma postura mais prudente. Na rede social X, afirmou: “Nenhuma das empresas está agindo de forma responsável”. Segundo ele, as duas companhias avançam em direção a uma superinteligência capaz de se aprimorar sozinha e estariam colocando vidas em risco.
O pesquisador também disse que profissionais responsáveis pela construção de sistemas de IA acreditam que a tecnologia pode matar todas as pessoas até o fim da década. Para Coxon, o desenvolvimento de uma inteligência artificial superior à humana exigiria intervenção governamental ou uma desaceleração coordenada entre as empresas.
Risco e segurança
A saída ocorreu enquanto a Anthropic se prepara para abrir capital na Bolsa. Nenhuma das duas empresas respondeu aos questionamentos feitos sobre as declarações.
Evan Hubinger, diretor de segurança da Anthropic, concordou com parte da avaliação de Coxon em uma publicação no X. Em caráter pessoal, estimou em mais de 10% o risco de a inteligência artificial matar seres humanos dentro da próxima década. “Nós realmente acreditamos que a IA pode matar seres humanos”, escreveu.
Executivos do setor afirmam que a indústria se aproxima do chamado autoaperfeiçoamento recursivo. Nessa etapa, sistemas de IA poderiam projetar e treinar a geração seguinte com pouca participação humana.
Em fevereiro, a Anthropic retirou de sua carta de segurança o compromisso de interromper o desenvolvimento de modelos caso não conseguisse controlar os riscos. No fim de julho, mais de mil funcionários do setor, entre eles o CEO da Anthropic, Dario Amodei, pediram a Washington a preparação de um mecanismo de freio.
No domingo, o diretor científico da OpenAI, Jakub Pachocki, escreveu que o momento exigia extrema cautela e coordenação internacional.
