Anthropic duplica ritmo de IA apesar de apelo do CEO

A Anthropic está a desenvolver os seus sistemas de inteligência artificial (IA) a um ritmo duas vezes superior face há um ano, apesar dos apelos do seu presidente executivo (CEO), Dario Amodei, para abrandamentos no setor.

A Anthropic convidou investigadores da organização sem fins lucrativos Model Evaluation and Threat Research (METR), sediada em Berkeley, Califórnia, para analisar os seus dados internos e entrevistar os colaboradores, enquanto se prepara para a sua estreia em Wall Street, num contexto de debate aceso sobre a possibilidade de os modelos de IA escaparem ao controlo humano.

A METR estimou que a Anthropic está a melhorar as capacidades dos seus modelos para realizar “tarefas bem especificadas” a um ritmo cerca de duas vezes mais rápido do que há um ano.

Foi durante o período de avaliação do grupo de investigação que o CEO da Anthropic, Dario Amodei, apelou à indústria da IA para que abrandasse o desenvolvimento, de modo a que as medidas de segurança pudessem acompanhar o ritmo. Num ensaio publicado a 12 de setembro, em resposta às crescentes preocupações sobre uma IA descontrolada, instou o mundo da IA a abrandar o ritmo a que se melhoram as capacidades dos modelos.

A METR tem vindo a realizar avaliações das capacidades dos modelos da Anthropic, da OpenAI e de outros laboratórios há vários anos. A organização sem fins lucrativos é financiada através de doações e não aceita remuneração pelo seu trabalho, mas as empresas de IA com as quais estabeleceu parcerias para as avaliações forneceram-lhe acesso e ‘tokens’, que a METR utiliza para avaliações, investigação e engenharia.

Um dos seus dois relatórios baseou-se na análise de dados internos da Anthropic fornecidos pela empresa ao longo de um período de cerca de 11 semanas, desde meados de agosto até ao final de outubro, bem como em entrevistas a colaboradores.