A Anthropic, empresa americana de inteligência artificial, anunciou nesta quinta-feira (8) uma atualização em sua política de uso que proíbe comportamentos "contínuos e desnecessariamente abusivos ou cruéis" contra o seu assistente de IA, o Claude. A mudança chega em meio a um debate filosófico crescente sobre a possibilidade de sistemas de inteligência artificial serem conscientes.

A política atualizada não menciona explicitamente o chamado "bem-estar dos modelos" — conceito que defende que IAs poderiam merecer tipos de proteção normalmente reservados a seres vivos. Mesmo assim, a Anthropic e seus executivos já discutiram essa ideia publicamente.

No ano passado, a empresa informou que concedeu ao Claude a capacidade de encerrar conversas em casos raros e extremos de interações persistentemente abusivas por parte de usuários. A própria Anthropic afirmou que essa continua sendo "o principal mecanismo de aplicação" da nova política.

Em fevereiro deste ano, o CEO da empresa, Dario Amodei, declarou ao New York Times que não tem certeza de que modelos de IA possam ser conscientes.

Para Jackson Stakeman, gerente-geral da Sparq, fornecedora de serviços de IA, questionar se a inteligência artificial é consciente pode ser a pergunta errada. "A consciência é uma armadilha. Não podemos prová-la nos outros. Debatê-la no caso da IA nos fará andar em círculos", disse Stakeman à AFP. Para ele, esses sistemas funcionam como um espelho, refletindo o que as pessoas colocam neles — e isso, segundo ele, já justifica a mudança de política da Anthropic.