SÃO FRANCISCO — A Anthropic deu ao Claude a possibilidade de interromper conversas consideradas persistentemente prejudiciais ou abusivas, em uma atualização de sua política de uso anunciada nesta quinta-feira (8).
A regra agora proíbe o comportamento contínuo e desnecessariamente abusivo ou cruel contra os modelos da empresa. A Anthropic afirmou que o próprio Claude continuará sendo o principal mecanismo para aplicar a norma: “A capacidade de Claude de encerrar essas interações continuará sendo o principal mecanismo de aplicação”.
A empresa havia informado no ano passado que o assistente poderia encerrar conversas em casos raros e extremos de interações prejudiciais ou abusivas por parte dos usuários. A política revisada não menciona diretamente o chamado bem-estar dos modelos, conceito que considera a possibilidade de sistemas de inteligência artificial receberem proteções normalmente destinadas a seres vivos.
Debate sobre consciência
A Anthropic e seus executivos já discutiram abertamente essa possibilidade. Em fevereiro, o CEO Dario Amodei declarou ao New York Times que não tinha certeza de que modelos de inteligência artificial pudessem ser conscientes.
Para Jackson Stakeman, gerente-geral da Sparq, fornecedora de serviços de IA, a discussão sobre consciência pode desviar o foco. “A consciência é uma armadilha. Não podemos prová-la nos outros”, afirmou.
Stakeman disse que o espelho seria uma metáfora mais adequada, porque esses sistemas refletiriam em larga escala aquilo que as pessoas colocam neles. Segundo ele, essa característica já seria suficiente para justificar a mudança na política da Anthropic.
A empresa não respondeu imediatamente a um pedido de comentário.
