Namorado de IA? “Uso terrível de IA”, diz presidente da Anthropic

A presidente da Anthropic, Daniela Amodei, considera que usar Inteligência Artificial como se fosse um parceiro romântico é uma má utilização da tecnologia e que poderá agravar a distância entre seres humanos.

Conta o site Business Insider que Daniela Amodei – que também é irmã do cofundador e CEO da Anthropic, Dario Amodei – concedeu uma entrevista a Arianna Huffington, notando que ter uma Inteligência Artificial como parceiro romântico poderá agravar os danos causados pelas redes sociais às relações humanas.

“Penso que [usar como parceiro romântico] é um uso terrível da Inteligência Artificial e que as pessoas não o devem fazer”, afirmou Daniela Amodei, notando que é “mais um passo no caminho da desintermediação dos humanos se afastarem cada vez mais uns dos outros”.

A presidente da Anthropic deixou ainda algumas palavras de cautela para quem usa o assistente Claude como psicólogo ou terapeuta, indicando que a Inteligência Artificial não consegue substituir funções inerentemente humanas. “O Claude nunca poderá ser o teu gestor, o teu terapeuta ou parceiro”, afirmando que estas são posições “que se tornarão mais importantes”.

Apesar destas declarações de Daniela Amodei, a Anthropic tem tomado decisões que visam levar os utilizadores do Claude a antropomorfizar o assistente de Inteligência Artificial.

Anthropic proíbe que utilizadores sejam cruéis com o Claude

A Anthropic atualizou a política de utilização das suas ferramentas de Inteligência Artificial, com uma das novidades a incidir sobre a forma como os utilizadores lidam com os modelos da empresa.

Conforme se pode ler nas novidades desta atualização, a Anthropic quer banir “comportamentos abusivos ou cruéis, contínuos e desnecessários” para com os modelos de Inteligência Artificial que estão na base do Claude e do Claude Code.

A empresa liderada por Dario Amodei nota que esta medida é “aplicada apenas em casos extremos” e com utilizadores que “agem repetidamente com crueldade” nas interações com os modelos de Inteligência Artificial da Anthropic “sem propósito discernível”. A Anthropic esclarece que esta proibição não se aplicará a “casos comuns de frustração, resistência, temas criativos sombrios ou a testes e pesquisas de modelos”.

Esta atualização à política de uso dos modelos de Inteligência Artificial da Anthropic entrará em vigor no dia 12 de novembro e, de acordo com a empresa, é uma extensão de uma medida que já tinha sido aplicada de permitir que o Claude conseguisse deixar de responder a utilizadores abusivos.

“Este tipo de abuso é o principal foco desta atualização: a capacidade do Claude de encerrar estas interações continuará a ser o principal mecanismo de aplicar a regra”, pode ler-se no site da Anthropic.