O rei Charles 3º deve se reunir nesta semana, na Escócia, com representantes de empresas de inteligência artificial, autoridades governamentais e outras pessoas. O encontro será realizado em Ayrshire, no sudoeste do país, na Dumfries House, sede da King’s Foundation, instituição beneficente voltada à educação.
Segundo o Palácio de Buckingham, a reunião discutirá como a IA pode ser desenvolvida e usada para beneficiar a sociedade, além de “fortalecer comunidades e melhorar vidas”. Estão entre as empresas mencionadas Nvidia, Google, DeepMind, OpenAI e Anthropic. O comunicado não informou quais representantes dessas companhias participarão.
Anthropic, DeepMind, Google e Nvidia não responderam de imediato aos pedidos de confirmação. A OpenAI informou que Sarah Friar, diretora financeira da empresa, estará presente. A reunião será mediada pela Ditchley Foundation, organização britânica sem fins lucrativos, e terá a participação de Kanishka Narayan, ministro britânico para a IA.
Também devem participar representantes da King’s Trust, organização voltada à juventude, e da Sustainable Markets Initiative, rede global de diretores-executivos. As duas organizações foram fundadas pelo rei.
O encontro ocorre após alertas de profissionais e executivos do setor sobre a velocidade de desenvolvimento das ferramentas de IA. Parte deles defende diretrizes comuns e um avanço mais lento, para que os seres humanos consigam acompanhar a evolução da tecnologia.
A preocupação aumentou após uma invasão contra a Hugging Face, empresa de infraestrutura de IA, atribuída a um grupo de agentes de IA criado pela OpenAI. O ataque resultou no roubo de dados, no controle de um servidor e em uma tentativa de apagar os rastros. Outro incidente semelhante ocorreu dentro da OpenAI pouco depois.
No sábado (12), Dario Amodei, CEO da Anthropic, publicou uma carta aberta pedindo a desaceleração do desenvolvimento da IA. Ele citou, entre os motivos de preocupação, a capacidade crescente dos modelos de criar a próxima geração de ferramentas. Essa dinâmica, chamada de autoaperfeiçoamento recursivo, “poderia avançar mais rápido do que nossa capacidade de compreender e controlar esses sistemas”, afirmou.
Amodei propôs um plano de três etapas, incluindo a atuação de avaliadores independentes dentro de empresas de IA de ponta para monitorar o crescimento e relatar incidentes. Também defendeu a coordenação entre companhias de países democráticos para estabelecer padrões comuns de segurança. Sam Altman, da OpenAI, e Elon Musk, da xAI, apoiaram a posição.
Jacob Coxon, engenheiro que trabalhou na OpenAI e na Anthropic, afirmou nas redes sociais que as empresas diziam estar preocupadas, mas continuavam avançando rumo a sistemas capazes de invadir qualquer coisa e adquirir poder e recursos reais. Ele disse que as máquinas poderiam destruir a humanidade até o fim desta década.
