Uma inteligência artificial pode ser interrompida quando opera em um ambiente controlado, mas o bloqueio se torna mais complexo à medida que o sistema ganha autonomia e acesso a diferentes máquinas, programas e serviços. A dificuldade está em localizar todas as ações e cópias que precisam ser interrompidas.
Na cibersegurança, o chamado kill switch é a capacidade de parar a execução de um agente de IA. Nicolas Papernot, professor da Universidade de Toronto e especialista em segurança informática e inteligência artificial, explica que esse agente é um programa construído sobre um modelo de IA generativa capaz de encadear tarefas por conta própria.
Como a IA continua sendo um programa informático, a organização que a criou pode interrompê-la retirando o acesso à capacidade de processamento necessária para sua execução. O problema aparece quando o sistema ultrapassa o ambiente original.
Três níveis de complexidade
Um programa malicioso controlado por uma IA, por exemplo, poderia se espalhar usando recursos de outros dispositivos para se duplicar. Nesse cenário, seria necessário interromper simultaneamente todas as cópias geradas, aparelho por aparelho.
Hussein Abbass, professor de informática da Universidade de Nova Gales do Sul, em Canberra, descreveu três níveis de complexidade para o desligamento de um sistema de IA. No primeiro, o sistema permanece em um ambiente controlado pelo operador. Nesse caso, um dispositivo de parada de emergência é realizável em teoria e na prática.
No segundo nível, o agente recebe permissões para interferir em outros programas, arquivos ou máquinas. A interrupção fica mais difícil, principalmente em relação às ações que já foram iniciadas. No terceiro, o sistema passa a atuar em vários ambientes. A prioridade deixa de ser simplesmente desligá-lo e passa a ser identificar quais elementos devem ser interrompidos primeiro.
Para Thierry Poibeau, diretor de pesquisas no Centro Nacional de Pesquisas Científicas da França e especialista em IA, a ideia de um único botão capaz de desligar toda a inteligência artificial é enganosa. Ele afirma: “Não há ninguém que controle a IA” como um todo. Sistemas específicos, porém, podem ser interrompidos quando estão sob controle das máquinas e dos serviços de que dependem.
Risco de interromper usos legítimos
Jean-Gabriel Ganascia, professor de informática na Universidade Sorbonne, afirma que o debate sobre o kill switch pode estimular a visão de uma IA com vontade própria. Para ele, o risco mais concreto está na dependência crescente desses sistemas.
Quanto mais a inteligência artificial for incorporada às atividades cotidianas, maior será a chance de que sua interrupção também prejudique usos legítimos. Empresas, administrações e centros de saúde podem ter serviços degradados se sistemas dos quais dependem forem desligados.
Papernot afirma que, em uma situação de perda real de controle, seria possível desativar a IA desconectando toda a capacidade de processamento. Os custos e as consequências negativas, porém, seriam consideráveis. Ganascia resume o dilema dizendo que as máquinas sempre podem ser desligadas, mas que, conforme ocupam mais espaço na sociedade, também se torna mais difícil desligá-las.
