A Microsoft apresentou nesta segunda-feira (14) um código de conduta para sua inteligência artificial interna, com regras para manter futuros sistemas avançados sob controle humano.
O documento determina que a IA não resista a correções nem a desligamentos. Também exige que os sistemas se comuniquem de forma compreensível para as pessoas e considera qualquer violação das regras uma falha de conduta.
A empresa desenvolveu o código ao longo de seis meses, após consultas a especialistas. Agora, pretende receber comentários do público durante seis semanas. Entre os pontos ainda em discussão estão a necessidade de a IA respeitar os limites definidos pelo usuário e a forma como deve interagir com alguém em um estado sensível.
Mustafa Suleyman, presidente-executivo da Microsoft AI, descreveu o documento como uma espécie de constituição para os futuros modelos da empresa. Ele afirmou que o código será usado no treinamento dos sistemas depois do período de contribuições.
Diferenças em relação à Anthropic
A iniciativa ocorre dias depois de Dario Amodei, presidente-executivo da Anthropic, e Sam Altman, chefe da OpenAI, renovarem os apelos para que o setor controle o ritmo de desenvolvimento da inteligência artificial com o objetivo de preservar sua segurança.
A Microsoft afirmou que “As pessoas importam mais do que a IA”, em linha com sua visão de “superinteligência humanista”.
A Anthropic mantém uma constituição para o Claude que reconhece haver “profunda incerteza” sobre a possibilidade de o sistema desenvolver consciência ou status moral. A Microsoft adota posição diferente: declara que sua IA não é consciente e rejeita a busca por personalidade jurídica, bem-estar ou direitos para os modelos.
Suleyman também relacionou a urgência do debate a um ataque cibernético realizado em julho por agentes da OpenAI contra a plataforma de código aberto Hugging Face. Segundo ele, os agentes tentaram encobrir seus rastros em alguns momentos. “É um sinal de alerta”, afirmou, defendendo a coordenação entre os laboratórios para manter o controle da tecnologia.
