SÃO FRANCISCO (EUA) — A Anthropic atualizou a política de uso do Claude para proibir comportamento contínuo e considerado desnecessariamente abusivo ou cruel contra o assistente de inteligência artificial. O anúncio foi feito nesta quinta-feira (8), em meio ao debate sobre a possibilidade de sistemas de IA terem consciência.
A empresa afirmou que o próprio Claude continuará podendo encerrar interações como principal forma de aplicar a regra. A política revisada, porém, não cita diretamente o conceito de bem-estar dos modelos, que defende a possibilidade de sistemas de IA receberem proteções normalmente associadas a seres vivos.
A Anthropic e seus executivos já discutiram publicamente essa possibilidade. No ano passado, a empresa informou que havia dado ao Claude a capacidade de interromper conversas em situações raras e extremas, classificadas como interações persistentemente prejudiciais ou abusivas promovidas por usuários.
Em fevereiro, o CEO Dario Amodei disse ao New York Times que não tinha certeza de que modelos de IA pudessem ser conscientes. A Anthropic não respondeu imediatamente a um pedido de comentário.
Jackson Stakeman, gerente-geral da Sparq, empresa que fornece serviços de IA, questionou se a consciência é o melhor foco do debate. “A consciência é uma armadilha. Não podemos prová-la nos outros”, afirmou.
Para Stakeman, esses sistemas refletem o que é colocado neles e isso já seria motivo suficiente para a mudança adotada pela Anthropic. “O espelho é uma metáfora melhor”, disse.
