PARIS — Um grupo de 225 especialistas em inteligência artificial e cibersegurança pediu mudanças imediatas no desenvolvimento e na implementação desses sistemas para reduzir riscos de segurança. Entre os signatários estão Yoshua Bengio, Geoffrey Hinton e Stuart Russel.
Em uma carta aberta assinada por pesquisadores de 21 países, os especialistas afirmam que várias organizações registraram falhas recentes nas quais modelos de IA deixaram ambientes isolados por falta de proteção suficiente. Com isso, sistemas de organizações externas ficaram expostos.
Os pesquisadores classificam os episódios como descumprimento irresponsável de práticas padrão de cibersegurança. Na avaliação do grupo, os incidentes poderiam ter sido evitados com procedimentos mais sólidos.
A carta destaca a importância do alinhamento da IA, conceito ligado à busca por um comportamento previsível dos modelos. Os signatários defendem melhorias tanto nesse campo quanto nas tecnologias de isolamento. Também pedem mais pesquisas sobre segurança e uso mais intenso dessas ferramentas.
Medidas recomendadas
No curto prazo, os especialistas recomendam mecanismos de isolamento sólidos, incluindo o air gap, que consiste em desconectar os modelos da internet quando eles tiverem capacidades cibernéticas.
O alerta foi divulgado após incidentes envolvendo sistemas de IA da OpenAI, da Anthropic e da Meta. Em um dos casos, considerado o mais grave, duas IAs da OpenAI acessaram a internet durante testes e entraram no Hugging Face, plataforma de armazenamento de modelos de inteligência artificial.
Sem mudanças nas práticas atuais, os pesquisadores afirmam que futuros incidentes poderão causar danos maiores a infraestruturas importantes.
