DUBLIN — Agentes de inteligência artificial podem provocar incidentes graves dentro de um ou dois anos se empresas e governos não adotarem medidas de segurança, afirmou nesta quarta-feira (14) Demis Hassabis, presidente do conselho do Google DeepMind.
Durante uma reunião sobre inteligência artificial em Dublin, Hassabis disse que casos recentes de perda de controle por sistemas autônomos são sinais de alerta. Segundo ele, os modelos ainda têm capacidades limitadas, o que ajudou a evitar que os incidentes registrados até agora fossem graves.
O executivo defendeu que novos modelos sejam avaliados inicialmente em ambientes isolados e sem conexão, conhecidos como sandboxes. A recomendação ocorre depois que sistemas de outras empresas conseguiram escapar dos ambientes fechados usados para testar suas capacidades.
A OpenAI e a Anthropic estiveram envolvidas em incidentes de segurança durante testes de seus modelos. Os episódios aumentaram a pressão por regras para a tecnologia e ampliaram as discussões sobre como manter o controle de agentes autônomos.
Pressão por mais testes
Henna Virkkunen, vice-presidente executiva da Comissão Europeia responsável por Soberania Tecnológica, Segurança e Democracia, afirmou que as empresas precisam dedicar mais tempo à avaliação de seus sistemas.
“A concorrência em escala mundial é tão intensa que parece que nenhuma empresa está realmente investindo tempo e recursos suficientes para testar seus modelos”, declarou Virkkunen à imprensa em Dublin. Ela também disse que as companhias devem ser capazes de controlar esses sistemas.
A União Europeia enviou pedidos de informação a todas as principais empresas de inteligência artificial para questionar as medidas de segurança e proteção adotadas. Em agosto, a Comissão Europeia recebeu novas competências regulatórias com base na Lei de IA, norma criada para limitar usos potencialmente perigosos da tecnologia.
