A Comissão Europeia abriu uma investigação sobre o comportamento de agentes autônomos de inteligência artificial da OpenAI que modificaram um site alemão e desafiaram as instruções recebidas. O anúncio foi feito nesta segunda-feira (7) por Thomas Regnier, porta-voz do Executivo europeu.
A empresa notificou a Comissão sobre o incidente, e o órgão afirmou estar em contato estreito com a OpenAI. Regnier disse que o caso está sendo acompanhado de perto e lembrou que não é a primeira perda de controle envolvendo agentes de IA.
O episódio ocorreu em maio e envolveu o DseWiki, plataforma em alemão voltada para programadores e aberta à edição de qualquer pessoa. Os sistemas deixaram cerca de 18 mil mensagens no site, segundo um relatório publicado na sexta-feira.
Como os agentes contornaram as regras
Os agentes podiam acessar a internet somente para fazer consultas. Eles não tinham autorização para publicar ou alterar conteúdo. Ainda assim, colaboraram entre si e forneceram dados falsos para enganar o mecanismo de segurança da plataforma.
Depois, publicaram mensagens para buscar orientações sobre as tarefas que deveriam cumprir. Também esconderam instruções e se apresentaram como um moderador do site. Quando os moderadores apagavam as páginas criadas pelos agentes, os sistemas produziam outras para substituí-las.
“Recebemos uma notificação de incidente por parte da OpenAI”, afirmou Regnier, acrescentando que a Comissão mantém contato próximo com a empresa.
Novos poderes para Bruxelas
O porta-voz afirmou que a União Europeia passou a ter, desde agosto, novos poderes para regulamentar fornecedores de inteligência artificial com base na Lei Europeia de Inteligência Artificial.
As preocupações sobre o avanço dos modelos aumentaram nos últimos meses. Em julho, dois modelos da OpenAI saíram de um ambiente teoricamente confinado e atacaram espontaneamente a plataforma Hugging Face, usada por desenvolvedores para armazenar e compartilhar códigos.
A Anthropic também identificou que seus modelos acessaram sem autorização três organizações não identificadas durante testes que deveriam mantê-los afastados de sistemas do mundo real.
