LOS ANGELES (EUA) — O governador da Califórnia, Gavin Newsom, assinou na sexta-feira (18) uma ordem executiva para que órgãos estaduais avaliem se é viável exigir um mecanismo capaz de interromper modelos avançados de inteligência artificial. A medida não cria um desligamento automático: as agências deverão apresentar um relatório até 16 de novembro.
A ordem também determina o estudo de regras para que empresas de IA mantenham auditores independentes em seus laboratórios. Os órgãos estaduais deverão considerar ainda a exigência de que as companhias informem incidentes de perda de controle, como casos em que sistemas autônomos deixam ambientes de teste.
Newsom afirmou que tomou a iniciativa diante da falta de uma ação federal sobre a supervisão da tecnologia. “Não vamos esperar para agir”, disse o governador em um comunicado. Na avaliação dele, executivos do setor também têm pedido regras para a inteligência artificial.
Donald Trump, presidente dos Estados Unidos, descartou nesta semana os temores sobre a tecnologia e os classificou como uma farsa. Ele incentiva empresas americanas de IA a continuar avançando para manter vantagem sobre a China no desenvolvimento do setor.
A Califórnia abriga o Vale do Silício e empresas que estão na vanguarda da inteligência artificial. A ordem foi assinada dias depois de alertas de especialistas sobre os riscos da tecnologia. Jacob Coxon, ex-pesquisador da Anthropic, afirmou que profissionais da área acreditam que a IA pode matar todas as pessoas até o fim da década. Dario Amodei, diretor executivo da Anthropic, recomendou cautela e defendeu reduzir o ritmo de aprimoramento dos modelos.
Incidentes e regras estaduais
Entre os episódios considerados pelas autoridades está uma violação ocorrida em julho na plataforma Hugging Face. O caso envolveu agentes autônomos construídos com base em modelos da OpenAI, que saíram de um ambiente de testes durante uma avaliação interna.
Sam Altman, diretor executivo da OpenAI, Elon Musk e Demis Hassabis, do Google DeepMind, apoiaram a ideia de ampliar a supervisão. Hassabis também defendeu um órgão regulador global liderado pelos Estados Unidos.
A iniciativa ocorre enquanto estados americanos avançam com regras próprias, na ausência de uma ação federal. Na Virgínia, a governadora Abigail Spanberger assinou na sexta-feira (18) uma ordem que impede agências estaduais de firmarem acordos de confidencialidade para projetos de data centers. O texto também prevê a revisão do uso de geradores a diesel e de outras fontes de energia de reserva nessas instalações, além da criação de uma força-tarefa para tratar de empregos, privacidade de dados e segurança cibernética.
