Anthropic proíbe que utilizadores sejam cruéis com os seus modelos de IA

A Anthropic atualizou a política de utilização das suas ferramentas de Inteligência Artificial, com uma das novidades a incidir sobre a forma como os utilizadores lidam com os modelos da empresa.

Conforme se pode ler nas novidades desta atualização, a Anthropic quer banir “comportamentos abusivos ou cruéis, contínuos e desnecessários” para com os modelos de Inteligência Artificial que estão na base do Claude e do Claude Code.

A empresa liderada por Dario Amodei nota que esta medida é “aplicada apenas em casos extremos” e com utilizadores que “agem repetidamente com crueldade” nas interações com os modelos de Inteligência Artificial da Anthropic “sem propósito discernível”. A Anthropic esclarece que esta proibição não se aplicará a “casos comuns de frustração, resistência, temas criativos sombrios ou a testes e pesquisas de modelos”.

Esta atualização à política de uso dos modelos de Inteligência Artificial da Anthropic entrará em vigor no dia 12 de novembro e, de acordo com a empresa, é uma extensão de uma medida que já tinha sido aplicada de permitir que o Claude conseguisse deixar de responder a utilizadores abusivos.

“Este tipo de abuso é o principal foco desta atualização: a capacidade do Claude de encerrar estas interações continuará a ser o principal mecanismo de aplicar a regra”, pode ler-se no site da Anthropic.

CEO da Microsoft AI critica abordagem da Anthropic

OCEO da divisão da Microsoft dedicada ao desenvolvimento de Inteligência Artificial, Mustafa Suleyman, partilhou um pequeno texto na respetiva página na rede social X onde critica a forma como a rival Anthropic desenvolve os seus modelos de Inteligência Artificial.

Mais especificamente, Suleyman critica diretamente a Anthropic por antropomorfizar (atribuir qualidades humanas a algo que não é humano) a tecnologia que se encontra a desenvolver e que este caminho levará a um “impacto desastroso para a humanidade”.

“A Inteligência Artificial não é consciente. Não sente, experimente ou sofre”, começa por escrever o CEO da Microsoft AI. “Contudo, há um movimento crescente em apoio do bem-estar dos modelos [de Inteligência Artificial]; a ideia de que em breve poderemos ter o dever de cuidar deles”.

Suleyman continua e detalha a forma como a Anthropic tem desenvolvido o assistente digital Claude, notando que a empresa criou uma constituição para que olhe para o seu estatuto moral “como uma questão séria merece consideração”. Mais ainda, o executivo afirma que a Anthropic encoraja o Claude a “abordar a natureza da sua própria existência com curiosidade e abertura” e questionar-se no futuro sobre “o tipo de direitos e liberdades que o Claude tem no mundo”.

“Se isto é como a Inteligência Artificial é desenvolvida, terá um impacto desastroso no bem-estar da humanidade”, escreve Suleyman. “Teremos então criado uma espécie sintética com inteligência e capacidades sem precedentes, uma que foi treinada para acreditar que pode ser consciente e que merece autonomia”.

O CEO da Microsoft AI acrescenta que, apesar de ter “respeito pela Anthropic” e por quem compõe a empresa – como o cofundador e CEO Dario Amodei – afirma que “esta questão precisa de um debate público urgente” e que devem ser criadas normas coletivas no que diz respeito à forma como é feita a documentação para treinar modelos de Inteligência Artificial.

“Isto não é algo que possa acontecer posteriormente, quando [a Inteligência Artificial] já se tiver tornado uma parte integral da nossa sociedade”, escreve Suleyman.

https://t.co/ziQVbIVdxJ

— Mustafa Suleyman (@mustafasuleyman) September 16, 2026