Jack Clark, cofundador da Anthropic, defendeu que empresas de inteligência artificial possam ser obrigadas a manter um mecanismo capaz de desligar completamente seus sistemas. Para ele, a existência e o funcionamento desse recurso deveriam ser verificados de forma independente e discutidos na formulação de regras para o setor.
Clark afirmou que a maioria dos laboratórios já possui diferentes formas de interromper seus equipamentos, incluindo a Anthropic. A proposta em debate seria estabelecer um requisito mínimo para esse tipo de mecanismo, especialmente no caso de sistemas considerados perigosos.
“Deveríamos exigir que as empresas tivessem um botão de desligamento automático?”, perguntou Clark. Ele também questionou se esse recurso poderia passar por verificação de terceiros e disse que a sociedade talvez queira regulamentar a questão.
Disputa sobre o ritmo da inteligência artificial
A discussão ocorre em meio a alertas de executivos e funcionários de empresas de IA sobre os riscos associados ao desenvolvimento da tecnologia. Dario Amodei, diretor-executivo da Anthropic, pediu que o ritmo de avanço fosse reduzido e acompanhado mais de perto, como a companhia já havia feito antes. Ele afirmou, porém, que medidas de contenção não deveriam ser adotadas “sem sacrificar a vantagem comercial”.
Clark disse que os critérios para o desligamento e os métodos de verificação deveriam integrar a discussão política mais ampla sobre a inteligência artificial. Ao ser questionado sobre estimativas para o número de mortes que a tecnologia poderia causar, ele considerou que esse tipo de estatística não seria muito útil e criticou a possibilidade de manter o setor totalmente sem regulamentação.
Projetos e posições divergentes
Nos Estados Unidos, legisladores apresentaram o “Kill Switch Act”, projeto que exigiria das empresas um meio de desativar ferramentas de IA problemáticas. A proposta também daria a determinadas agências governamentais autoridade para ordenar que uma ferramenta fosse desligada ou tivesse seu uso limitado.
Donald Trump rejeitou iniciativas para desacelerar a inteligência artificial. O presidente dos Estados Unidos classificou como “uma FARSA” a ideia de que a tecnologia possa dominar o mundo ou destruir a humanidade e afirmou que existe uma conspiração contra a IA e os data centers.
No Reino Unido, o governo recusou recentemente a criação de um interruptor de segurança. Um porta-voz argumentou que a medida não impediria o desenvolvimento ou o uso inadequado de sistemas em outros lugares.
As avaliações sobre o risco de extinção da humanidade também dividem especialistas. Evan Hubinger, pesquisador que deixou a Anthropic por preocupação com esse cenário, estimou em 10% na próxima década a possibilidade de a IA causar a extinção humana. Geoffrey Hinton, ganhador do Prêmio Nobel, afirmou que uma probabilidade de 10% de a tecnologia matar todos os humanos não seria irrazoável. George Arison, líder do Grindr, disse que empresas usam esses temores para sustentar seus planos de negócios.
A Anthropic criou o Claude e lançou, este ano, diversos modelos de IA mais capazes. A empresa se prepara para uma possível oferta pública inicial de ações, que permitiria a compra de papéis da companhia.
