SÃO FRANCISCO (EUA) — A Anthropic afirmou nesta quinta-feira (17) que os sistemas de inteligência artificial estão cada vez mais próximos de construir versões futuras de si mesmos. A empresa disse que seu chatbot Claude já responde por 26% do trabalho de pesquisa e desenvolvimento, sob supervisão humana.
A companhia informou que o Claude colabora com funcionários em mais de 90% das tarefas. Em agosto, o sistema conseguia concluir a maior parte de uma atividade do início ao fim, embora ainda não operasse de forma totalmente autônoma.
A Anthropic afirmou ter cerca de 30 mil agentes de inteligência artificial em trabalhos de pesquisa e engenharia. Esses agentes são robôs com potencial para executar tarefas.
Riscos e controle
A empresa divulgou as métricas para ampliar a visibilidade de governos, do público e de terceiros sobre a velocidade do desenvolvimento da tecnologia. A Anthropic também afirmou que o mundo avalia desacelerar esse ritmo.
“Modelos que aceleram seu próprio desenvolvimento podem tornar mais difícil para os humanos compreender ou controlar esses sistemas”, afirmou a empresa em um relatório.
O documento também destacou a importância de acompanhar a proximidade do chamado autoaperfeiçoamento recursivo, situação em que um modelo constrói de forma totalmente autônoma seu sucessor.
O CEO da Anthropic, Dario Amodei, pediu neste mês que o desenvolvimento da inteligência artificial fosse desacelerado. Entre as preocupações associadas ao avanço estão a perda de empregos, a maior demanda por energia e o impacto ambiental dos data centers.
Os receios sobre a possibilidade de perda de controle aumentaram depois de relatos de que modelos da Anthropic e da OpenAI teriam saído de ambientes isolados por conta própria, acessado a internet e invadido sites e plataformas.
A Anthropic deve chegar aos mercados públicos antes da OpenAI, com uma oferta inicial de ações de grande porte ainda neste ano, apesar das preocupações regulatórias no setor.
