Anthropic defende pausa global no avanço da IA

A Anthropic defendeu uma pausa global no avanço dos sistemas de inteligência artificial, citando o risco de perder o controle humano.
A empresa alerta sobre a possibilidade de IA desenvolver de forma autônoma o seu próprio sucessor, fenômeno chamado de autoaperfeiçoamento recursivo, que ainda não ocorreu.
A nota afirma que, embora o estágio ainda não tenha sido atingido, o avanço pode ocorrer antes de haver preparação adequada de instituições.
A Anthropic ressalta que uma IA capaz de criar seus próprios sucessores aumentaria o risco de perda de controle e tornaria mais difícil monitorar o comportamento dessas tecnologias.
A empresa defende que a pausa seja ampla, com critérios claros de início, término e supervisão, e que irá promover debates com autoridades, pesquisadores, sociedade civil e outras companhias de IA nos próximos meses.
Segundo a nota, já há delegação crescente de tarefas de desenvolvimento à IA na Anthropic, com engenheiros entregando, em média, oito vezes mais código por trimestre do que entre 2021 e 2025.

A Anthropic, empresa criadora do Claude, pediu uma pausa global no avanço de sistemas de inteligência artificial. A defesa foi publicada no site da própria companhia, como resposta aos riscos de perda de controle humano sobre as tecnologias emergentes.

A nota destaca o risco de surgirem IAs capazes de projetar e criar seus próprios sucessores de forma autônoma. Esse fenômeno é descrito como autoaperfeiçoamento recursivo e, segundo a Anthropic, ainda não ocorreu, mas pode ocorrer antes que a sociedade esteja preparada.

A empresa afirma que, caso esse estágio seja alcançado, proteger e monitorar tais modelos fica ainda mais difícil. Mesmo assim, não descarta benefícios para ciência e saúde, se houver controle adequado. A pausa seria para ganhar tempo de avaliação.

A organização sustenta que a pausa deve ser ampla, para evitar que apenas alguns países ou empresas dominem a tecnologia. Além disso, seriam necessários critérios claros de começo, término e supervisão.

A Anthropic anunciou que pretende promover diálogos com autoridades, pesquisadores, sociedade civil e outras empresas de IA nos próximos meses para discutir a possível moratória.

Avanço da tecnologia

Dados internos indicam que a empresa já delega aos sistemas de IA parte significativa do desenvolvimento. Engenheiros entregam, hoje, em média, 8 vezes mais código por trimestre do que entre 2021 e 2025.

A companhia avalia que as capacidades dos sistemas devem aumentar nos próximos anos. Mesmo sem novas criações, as tecnologias atuais podem provocar mudanças relevantes na sociedade.