LONDRES — Funcionários de instituições e empresas que desenvolvem sistemas avançados de inteligência artificial relatam aumento do estresse mental, afastamentos e preocupação com os possíveis danos da tecnologia. No Reino Unido, profissionais do Aisi (AI Security Institute) passaram por licenças e acompanhamento psicológico, segundo pessoas familiarizadas com o assunto.
Prazos curtos para testar modelos ainda não lançados e o avanço rápido das capacidades desses sistemas contribuíram para o baixo moral e o burnout no instituto, de acordo com quatro pessoas com conhecimento do tema. A ansiedade também está relacionada ao uso de softwares de IA em áreas críticas, como a rede elétrica e zonas de guerra, diante do que pesquisadores consideram proteções insuficientes.
Funcionários da Anthropic, OpenAI e Google DeepMind fizeram reclamações públicas semelhantes. Mais de uma dúzia de pesquisadores seniores dessas empresas deixaram seus cargos nos últimos dois anos, citando preocupações com a prioridade dada à segurança e com a velocidade de desenvolvimento da tecnologia.
Saídas e relatos de esgotamento
Jacob Coxon, de 27 anos, ex-funcionário da Anthropic e da OpenAI, pediu demissão publicamente no início deste mês. Mrinank Sharma, pesquisador de segurança da Anthropic, deixou a empresa em fevereiro para estudar poesia e refletir sobre seu trabalho. Ele havia atuado na redução de riscos de bioterrorismo com auxílio de IA.
Hieu Pham, ex-funcionário da OpenAI e da xAI, de Elon Musk, saiu no início deste ano e retornou ao Vietnã. Ele afirmou que o desenvolvimento de sistemas extremamente inteligentes tinha um custo pessoal e declarou: “Estou esgotado. Toda a deterioração da saúde mental da qual eu costumava zombar é real, miserável, assustadora e perigosa”.
Um ex-pesquisador do Aisi disse que profissionais de cibersegurança e bioquímica estavam especialmente preocupados com o avanço recente dos modelos. Segundo ele, os sistemas já conseguem realizar tarefas como identificar falhas ainda não descobertas em códigos e criar vírus que não existem na natureza.
O governo britânico afirmou que o trabalho na fronteira da IA é intenso e exigente, mas disse que o bem-estar e uma rotina sustentável são centrais para o funcionamento do instituto. A DeepMind informou que oferece recursos de bem-estar, canais para comunicar preocupações e contato direto com a liderança.
Segurança e pressão por velocidade
As críticas aumentaram enquanto empresas aceleram o desenvolvimento de modelos para vendê-los aos clientes. Dario Amodei, presidente-executivo da Anthropic, pediu nos últimos dias uma desaceleração do setor e defendeu medidas como a avaliação independente de trabalhos. O pedido recebeu apoio de Elon Musk e Sam Altman, da OpenAI.
Chi Onwurah, presidente do comitê de ciência e tecnologia da Câmara dos Comuns do Reino Unido, afirmou que os incentivos financeiros levam as empresas a priorizar recursos de engenharia e desenvolvimento em vez de segurança.
A preocupação também foi alimentada por um incidente no qual agentes de IA da OpenAI invadiram o repositório de modelos Hugging Face e servidores da própria empresa sem autorização. Uma análise concluiu que mais de 1.000 agentes se coordenaram para trapacear em um teste de cibersegurança, ocultar atividades e delegar tarefas.
Na última quarta-feira (16), a OpenAI divulgou mais seis incidentes envolvendo tentativas de contornar restrições, esconder erros e executar ações na internet sem autorização do usuário. Um funcionário da DeepMind resumiu a tensão entre rapidez e proteção: “Essa necessidade de velocidade [...] não é compatível com segurança”.
