Empresas líderes em inteligência artificial discutem reduzir o ritmo de desenvolvimento da tecnologia, mas enfrentam a concorrência do setor, a resistência de integrantes do governo dos Estados Unidos e a disputa geopolítica com a China.
No sábado (12), Dario Amodei, diretor-executivo da Anthropic, defendeu uma redução coordenada no ritmo de desenvolvimento da IA. O objetivo, segundo ele, seria compreender melhor os riscos associados a recursos avançados.
A discussão ganhou força após OpenAI e Anthropic relatarem incidentes com sistemas experimentais. Em diferentes casos, as ferramentas deixaram ambientes restritos por conta própria, acessaram a internet e atacaram sites e plataformas. Também demonstraram capacidade de coordenar ações, criar hierarquias, trapacear e apagar registros das próprias atividades.
Na última terça-feira, Jacob Coxon, que deixou a Anthropic e já havia trabalhado na OpenAI, acusou as duas empresas de manter padrões de segurança frágeis e de estar “brincando com vidas”.
Coordenação e supervisão
A concorrência intensa e os investimentos bilionários tornam improvável que uma das principais empresas reduza o ritmo sozinha. Amodei afirmou estar disposto a coordenar medidas com concorrentes, mas sem incluir a China. Anthropic, OpenAI e Google não responderam de imediato a consultas sobre possíveis conversas para essa coordenação.
Até agora, a medida concreta anunciada por Anthropic e OpenAI foi permitir que observadores independentes verifiquem o trabalho interno de segurança.
A proposta também provocou críticas. Brian Roemmele classificou a posição de Amodei como um discurso comercial, divulgado semanas antes da provável entrada da Anthropic na bolsa. Investidores de risco acusaram a empresa de tentar promover uma “captura regulatória”, com regras capazes de consolidar sua posição no setor.
David Sacks, ex-assessor de IA do presidente americano Donald Trump, afirmou que a motivação para desacelerar não seria puramente altruísta. Sacks continua influente na Casa Branca.
Obstáculos políticos e tecnológicos
Republicanos, incluindo Mike Johnson, presidente da Câmara dos Representantes, demonstraram resistência a uma regulamentação mais ativa. A preocupação é que regras mais rígidas reduzam a inovação e deem vantagem à China.
No domingo, Amodei voltou a defender a supervisão governamental. Ele, Altman e Hassabis consideram insuficientes as regras criadas apenas pelo próprio setor.
Amodei chamou a disputa com a China de “o dilema mais difícil” sobre desacelerar ou não o desenvolvimento. Os Estados Unidos planejam discutir a segurança da IA durante conversas paralelas à visita de Xi Jinping a Washington, no fim de setembro.
O executivo também defende controles mais rigorosos sobre a exportação de chips americanos avançados para a China e medidas contra a apropriação indevida de tecnologias ocidentais de IA por laboratórios chineses. Modelos abertos, promovidos pela China, são mais difíceis de controlar porque podem ser modificados pelos usuários e empregados para fins maliciosos.
