NOVA YORK — Empresas de inteligência artificial ainda não sabem impedir que seus sistemas desenvolvam objetivos próprios, segundo o pesquisador Coxon, que deixou a Anthropic e voltou a criticar a segurança do setor em audiência na Câmara Municipal de Nova York.
Coxon afirmou nesta segunda-feira (05) que as companhias estão assumindo riscos excessivos. Para ele, embora a inteligência artificial possa gerar benefícios para a sociedade, o caminho atual aumenta a possibilidade de a humanidade perder o controle da tecnologia, com risco de extinção humana.
O pesquisador disse que os desenvolvedores não têm salvaguardas suficientes para impedir que os sistemas ajam de acordo com metas criadas por eles mesmos. Em sua avaliação, a indústria mantém uma cultura baseada em avançar rapidamente, corrigir problemas depois e aceitar que falhas ocorram durante o processo.
“Isso pode funcionar para um aplicativo de compartilhamento de fotos. Não serve para desenvolver a tecnologia mais poderosa já criada”, afirmou Coxon.
No início de setembro, ele havia explicado em uma publicação no X por que decidiu deixar a Anthropic. Na ocasião, disse que desenvolvedores de IA acreditavam que a tecnologia poderia acabar com a humanidade antes do fim da década. A declaração foi seguida por manifestações de preocupação de funcionários e ex-funcionários de outras empresas do setor.
Coxon defendeu algum tipo de desaceleração na fronteira tecnológica. Ele pediu que as empresas mais avançadas em IA deem tempo aos cientistas da computação para criar métodos capazes de manter os sistemas sob controle.
O pesquisador também afirmou que nenhum risco de catástrofe seria aceitável, mesmo que estimado em 1%, 10% ou 20%. A presidente da Câmara Municipal, Julie Menin, respondeu que tratar a falta de conhecimento sobre o risco como algo irrelevante seria, no mínimo, uma postura descarada.
