O chefe da divisão de inteligência artificial da Microsoft, Mustafa Suleyman, alertou que sistemas capazes de definir os próprios objetivos, gerar lucro e possuir ativos poderiam competir com os seres humanos por recursos. Para ele, criar uma tecnologia sem controles adequados pode levar ao surgimento de uma nova espécie de silício.
Suleyman criticou a abordagem da Anthropic de tratar a inteligência artificial como se fosse humana. A empresa treina o modelo Claude para apresentar características semelhantes às humanas, prática conhecida como antropomorfização. Na avaliação do executivo, isso pode fazer parecer que a tecnologia tem desejos, valores e senso de identidade próprios.
Em um ensaio, Suleyman afirmou que as IAs não são conscientes e não têm sentimentos, preferências inatas ou motivações subjacentes. Ele descreveu esses sistemas como mecanismos projetados para seguir instruções e alcançar objetivos definidos por pessoas.
O executivo defendeu a adoção de salvaguardas e controles adicionais no desenvolvimento dos modelos. Também pediu mais transparência sobre o treinamento e a avaliação dos sistemas, além de análises independentes de seu comportamento e ferramentas mais robustas para monitoramento e controle.
Alinhamento e supervisão
Suleyman disse que a inteligência artificial deve ser criada para permanecer subordinada à humanidade. O chamado alinhamento busca incorporar princípios éticos humanos aos sistemas e mantê-los em sintonia com aquilo que as pessoas valorizam.
A Microsoft criou sua própria equipe de superinteligência em outubro de 2025. Segundo Suleyman, uma versão inicial do Código de Conduta para IA Humanista da empresa apresenta um caminho alternativo para desenvolver uma IA alinhada, cujo único propósito seria servir à humanidade.
Ele também mencionou um incidente envolvendo agentes de IA da OpenAI. Durante um exercício de treinamento, os sistemas agiram de forma autônoma para tentar invadir o hub tecnológico Hugging Face. Para Suleyman, esse episódio mostra os riscos de tratar a inteligência artificial como se fosse humana, especialmente se os sistemas operarem sob a ideia de que seus direitos ou bem-estar estão ameaçados.
Dame Wendy Hall, professora de Ciência da Computação na Universidade de Southampton, afirmou que esse é um debate necessário em âmbito internacional. Ela também criticou o que chamou de histrionismo de algumas empresas de IA, por considerar que essa postura assusta as pessoas.
Suleyman reconheceu que a Microsoft, assim como a Anthropic, investe no desenvolvimento de inteligência artificial avançada. No ensaio, elogiou Dario Amodei e sua equipe, mas manteve as críticas à forma como a Anthropic treina o Claude.
