O CEO da Anthropic, Dario Amodei, propôs que as empresas de inteligência artificial reduzam o ritmo de avanço das capacidades de seus modelos. A ideia é criar mais tempo para avaliar riscos e adotar medidas de proteção diante do aumento das preocupações com o uso indevido da tecnologia.
A proposta foi apresentada em um artigo divulgado neste sábado (12) nas redes sociais. Amodei disse que a Anthropic não defende interromper o treinamento de modelos nem o progresso tecnológico, mas considera necessário reservar tempo suficiente para alinhar e proteger os sistemas.
“Precisamos desacelerar o ritmo com que aprimoramos as capacidades dos modelos de IA”, afirmou o executivo. Ele acrescentou que o progresso continuará parecendo rápido e que as empresas deveriam aproveitar o tempo obtido para lidar com os riscos.
Estrutura em três etapas
A estrutura sugerida por Amodei tem três etapas. Entre as medidas, está a instalação de revisores externos permanentes dentro das empresas que desenvolvem modelos de IA. Esses avaliadores teriam acesso às ferramentas relevantes e aos processos internos usados para analisar riscos.
O executivo também defendeu que avaliadores independentes verifiquem se as medidas de segurança estão sendo aplicadas. Além disso, afirmou que as empresas deveriam trabalhar voluntariamente em conjunto para estabelecer padrões.
A proposta foi apresentada depois que a Anthropic divulgou, na última quinta-feira (10), um relatório de inteligência sobre ameaças. O documento descreveu o uso dos modelos Claude por diversos agentes em atividades como desenvolvimento de armas, operações cibernéticas, vigilância e fraude.
As preocupações aumentaram após a demissão do pesquisador da Anthropic Jacob Coxon. Ele declarou que pessoas que desenvolvem inteligência artificial acreditam que a tecnologia pode acabar com todos até o fim da década.
Amodei também mencionou o crescimento da capacidade dos modelos e a dificuldade de contê-los. Nos Estados Unidos, um número crescente de parlamentares defende novas regras para regulamentar os sistemas de inteligência artificial.
