- A Anthropic propôs uma pausa global no desenvolvimento de sistemas de IA cada vez mais potentes, diante de sinais de que modelos recentes podem escapar do controle humano.
- A ideia é reduzir ou pausar o desenvolvimento temporariamente para permitir que estruturas sociais e pesquisas de alinhamento acompanhem o ritmo da tecnologia.
- Uma pausa real exigiria acordo entre grandes empresas de IA de vários países, principalmente China e Estados Unidos, com regras verificáveis para todos.
- A proposta enfrenta resistência em Washington e no Vale do Silício, com críticas de que frear o ritmo pode beneficiar a China; nos EUA, o presidente assinou decreto para avaliações preliminares de modelos poderosos antes do lançamento.
- A Anthropic pretende reunir nos próximos meses governo, cientistas, grupos de defesa e concorrentes para definir como esse sistema funcionaria, destacando o risco de aceleração que poderia levar à chamada “melhora recursiva de si mesma.”
A Anthropic propôs nesta quinta-feira uma pausa global no desenvolvimento de sistemas de IA cada vez mais potentes, diante de sinais de que modelos recentes podem escapar do controle humano. A medida visa reduzir riscos enquanto avanços tecnológicos são avaliados.
A companhia, sediada em San Francisco e responsável pela linha Claude, disse que a desaceleração mundial poderia ser benéfica, mas alertou que, se apenas uma empresa frear, pode perder vantagem competitiva.
A ideia envolve reunir nos próximos meses governos, pesquisadores, grupos de defesa e concorrentes para definir como funciona um eventual sistema de acordo, com regras verificáveis internacionalmente.
Desdobramentos e debates
Nos EUA e no Vale do Silício, há resistência sobre a viabilidade da pausa, com críticos argumentando que desacelerar pode favorecer a China. Acredita-se que lordes regulatórios busquem equilíbrio entre segurança e competitividade.
O governo norte-americano tem discutido ações para controle de modelos, incluindo avaliações pré-mercado de IA mais potentes, conforme decreto assinado pelo presidente Donald Trump. O objetivo é testar riscos antes do lançamento.
A Anthropic ressalta que a velocidade de desenvolvimento tem acelerado a cada ciclo, o que pode gerar uma retroalimentação em que a IA se aperfeiçoa a partir de dados gerados por si mesma. A empresa aponta que o papel humano vem diminuindo no processo.
A empresa informou ainda que pretende, nos próximos meses, reunir diferentes atores para delinear o funcionamento de um eventual regime de pausa, com mecanismos de verificação compartilhados. Todos os interessados seriam convidados a participar.
Entre na conversa da comunidade