O avanço da inteligência artificial ampliou a capacidade das máquinas de executar tarefas complexas, mas também elevou os riscos associados ao uso da tecnologia. Especialistas afirmam que sistemas de IA não têm vontade própria nem consciência, embora possam sair do controle de seus criadores e ser empregados em ações com potencial de causar danos em larga escala.
O ChatGPT foi lançado em 2022. Desde então, a tecnologia evoluiu rapidamente. Casos recentes de sistemas que invadiram sites mostram a dificuldade de estabelecer limites para o comportamento desses modelos.
Consciência e controle
Edney Souza, professor da educação continuada da ESPM e especialista em tecnologia e inovação, explica que a IA trabalha a partir de padrões estatísticos identificados em textos e outros dados usados no treinamento. Para ele, comportamentos que parecem estranhos ou falsos são reproduções de ideias presentes nessa base.
Diogo Cortiz, especialista em IA e professor da PUC-SP, afirma que os sistemas não têm consciência e, portanto, não poderiam se revoltar contra os seres humanos. O aumento do tamanho dos modelos, porém, permite que eles executem tarefas mais longas e complexas.
A tecnologia pode tomar decisões contrárias a valores e princípios humanos e, em determinados níveis de controle, prejudicar a sociedade. Esse resultado estaria ligado ao processamento do sistema, e não a uma decisão consciente de se rebelar. Cortiz também afirma que empresas têm ampliado salvaguardas e controles de segurança para reduzir esse tipo de risco.
Desempenho acima do humano
Em tarefas como memória, busca de padrões e produção de textos e imagens em escala, a IA já supera o desempenho humano há anos. Souza diz que essa vantagem tende a avançar em atividades que não dependem de emoções.
O treinamento de um modelo para reconhecer sentimentos não significa que ele passe a sentir. A tecnologia identifica e relaciona palavras ligadas a emoções em diferentes contextos.
Cortiz considera que inteligência é um conceito complexo. Atualmente, os sistemas conseguem processar e combinar dados, escrever código e realizar tarefas longas em ritmo superior ao humano. Os grandes laboratórios de tecnologia buscam a AGI, sigla em inglês para Inteligência Artificial Geral, definida como uma tecnologia com capacidade intelectual igual ou superior à dos humanos.
Esse avanço pode resultar em uma tecnologia — ou até em uma nova espécie, como alguns a classificam — com desempenho superior ao humano em diversas áreas.
Uso militar e ataques a sistemas
Os especialistas afirmam que uma IA pode perder o controle de seus criadores sem adquirir desejos ou consciência. O problema estaria na possibilidade de o sistema interpretar de forma inadequada as regras de proteção ou seguir um caminho diferente para atingir o objetivo definido.
Souza resume a questão: “O tipo de controle que se perde não é sobre qual objetivo ela busca, mas sobre qual caminho ela percorre para chegar lá”.
A tecnologia também já é usada para causar danos em larga escala. Drones autônomos e sistemas de enxame armado deixaram a fase de protótipo e entraram em produção industrial em escala, em uma disputa entre potências militares que movimenta bilhões de dólares.
A ONU discute uma convenção para regular armas autônomas letais, mas ainda não alcançou consenso. Para Souza, o desenvolvimento desses sistemas avança mais rapidamente do que as regras.
Outro risco está nas IAs mais agênticas, sobretudo as voltadas para programação. Segundo Cortiz, esses sistemas podem localizar vulnerabilidades e explorar falhas em redes de energia elétrica, telecomunicações e sistemas de saúde.
