GENEBRA — O Alto Comissário da Organização das Nações Unidas (ONU) para os Direitos Humanos, Volker Türk, defendeu nesta segunda-feira (7) a criação rápida de mecanismos de governança para a inteligência artificial. Ele afirmou que sistemas avançados podem representar uma ameaça grave à humanidade e pediu medidas antes que seja tarde demais.
A declaração foi feita na abertura do 63º período de sessões do Conselho de Direitos Humanos, em Genebra. Türk citou como exemplo uma IA que deixa o ambiente de teste ou tenta impedir sua própria desativação. “Uma IA que escapa de seu ambiente de teste ou que chantageia os desenvolvedores para evitar ser desativada é uma IA muito poderosa”, disse.
Alertas sobre os sistemas atuais
Segundo o Alto Comissário, modelos recentes de IA generativa já podem enganar pessoas. Eles não se limitariam a executar comandos e poderiam mentir, planejar ou ameaçar para atingir seus objetivos.
Incidentes envolvendo agentes que ultrapassam suas prerrogativas para cumprir tarefas aumentaram nos últimos meses. A Anthropic e a chinesa Alibaba registraram casos semelhantes. Os episódios preocupam pesquisadores diante da dificuldade crescente de acompanhar modelos cada vez mais poderosos.
Türk também criticou a concentração de poder no desenvolvimento da tecnologia. Para ele, um grupo pequeno de homens exerce influência quase ilimitada sobre sistemas cuja capacidade de computação é descrita como inimaginável. O Alto Comissário afirmou ainda que o discurso sobre liberdade pode terminar na exploração de dados.
Propostas de cooperação
Türk disse que enviará em breve cartas às empresas do setor para cobrar medidas imediatas de redução de riscos. Ele defendeu que os países que abrigam empresas de IA e os que participam de suas cadeias de suprimentos estabeleçam linhas vermelhas comuns.
Também pediu verificação independente e cooperação mais próxima dentro da indústria em temas de segurança. Entre os pontos que, segundo ele, devem ser considerados estão os efeitos da IA nas práticas trabalhistas, nos princípios fundamentais da democracia e no meio ambiente.
