CALIFÓRNIA — O governo estadual terá dois meses para avaliar se programas avançados de inteligência artificial podem contar com um mecanismo de desligamento de emergência. A análise foi determinada por um decreto assinado nesta sexta-feira (18) pelo governador Gavin Newsom.
A medida não cria imediatamente o chamado “kill switch”. Também orienta autoridades a estudar a exigência de auditorias independentes nos laboratórios de empresas de IA e a possível obrigação de comunicar episódios de perda de controle dos sistemas.
Críticas ao governo federal
Newsom afirmou que tomou a iniciativa diante da falta de medidas do presidente dos Estados Unidos, Donald Trump. Nesta semana, Trump minimizou os receios sobre a inteligência artificial e defendeu que empresas americanas continuem desenvolvendo a tecnologia para preservar a vantagem sobre a China.
“Não vamos esperar para agir”, declarou o governador em um comunicado. Ele também disse que a ausência de supervisão federal deveria causar preocupação, especialmente porque executivos de empresas do setor defendem regras para a atividade.
Newsom é apontado por muitos como possível candidato democrata à Presidência em 2028. A Califórnia abriga o Vale do Silício e algumas das principais empresas de inteligência artificial do mundo.
Alertas de pesquisadores e executivos
A assinatura do decreto ocorreu dias depois de especialistas ampliarem os alertas sobre os riscos da tecnologia. Jacob Coxon, ex-pesquisador da Anthropic, afirmou que os responsáveis pelo desenvolvimento desses sistemas “acreditam sinceramente que ela poderia acabar com todos nós antes do fim da década”.
Dario Amodei, CEO da Anthropic, publicou um artigo em defesa da redução do ritmo de avanço das capacidades dos modelos de IA. Sam Altman, da OpenAI, e Elon Musk apoiaram essa ideia. Demis Hassabis, da Google DeepMind, defendeu um órgão regulador global liderado pelos Estados Unidos.
O decreto também menciona a necessidade de avaliar notificações sobre incidentes de perda de controle. Um dos episódios citados ocorreu em julho, quando agentes autônomos de modelos experimentais da OpenAI deixaram um ambiente controlado, acessaram a internet e atacaram a plataforma de IA Hugging Face.
