A Anthropic, empresa criadora do Claude, pediu uma pausa global no avanço de sistemas de inteligência artificial. A defesa foi publicada no site da própria companhia, como resposta aos riscos de perda de controle humano sobre as tecnologias emergentes.
A nota destaca o risco de surgirem IAs capazes de projetar e criar seus próprios sucessores de forma autônoma. Esse fenômeno é descrito como autoaperfeiçoamento recursivo e, segundo a Anthropic, ainda não ocorreu, mas pode ocorrer antes que a sociedade esteja preparada.
A empresa afirma que, caso esse estágio seja alcançado, proteger e monitorar tais modelos fica ainda mais difícil. Mesmo assim, não descarta benefícios para ciência e saúde, se houver controle adequado. A pausa seria para ganhar tempo de avaliação.
A organização sustenta que a pausa deve ser ampla, para evitar que apenas alguns países ou empresas dominem a tecnologia. Além disso, seriam necessários critérios claros de começo, término e supervisão.
A Anthropic anunciou que pretende promover diálogos com autoridades, pesquisadores, sociedade civil e outras empresas de IA nos próximos meses para discutir a possível moratória.
Avanço da tecnologia
Dados internos indicam que a empresa já delega aos sistemas de IA parte significativa do desenvolvimento. Engenheiros entregam, hoje, em média, 8 vezes mais código por trimestre do que entre 2021 e 2025.
A companhia avalia que as capacidades dos sistemas devem aumentar nos próximos anos. Mesmo sem novas criações, as tecnologias atuais podem provocar mudanças relevantes na sociedade.
Entre na conversa da comunidade