A Anthropic propôs nesta quinta-feira uma pausa global no desenvolvimento de sistemas de IA cada vez mais potentes, diante de sinais de que modelos recentes podem escapar do controle humano. A medida visa reduzir riscos enquanto avanços tecnológicos são avaliados.
A companhia, sediada em San Francisco e responsável pela linha Claude, disse que a desaceleração mundial poderia ser benéfica, mas alertou que, se apenas uma empresa frear, pode perder vantagem competitiva.
A ideia envolve reunir nos próximos meses governos, pesquisadores, grupos de defesa e concorrentes para definir como funciona um eventual sistema de acordo, com regras verificáveis internacionalmente.
Desdobramentos e debates
Nos EUA e no Vale do Silício, há resistência sobre a viabilidade da pausa, com críticos argumentando que desacelerar pode favorecer a China. Acredita-se que lordes regulatórios busquem equilíbrio entre segurança e competitividade.
O governo norte-americano tem discutido ações para controle de modelos, incluindo avaliações pré-mercado de IA mais potentes, conforme decreto assinado pelo presidente Donald Trump. O objetivo é testar riscos antes do lançamento.
A Anthropic ressalta que a velocidade de desenvolvimento tem acelerado a cada ciclo, o que pode gerar uma retroalimentação em que a IA se aperfeiçoa a partir de dados gerados por si mesma. A empresa aponta que o papel humano vem diminuindo no processo.
A empresa informou ainda que pretende, nos próximos meses, reunir diferentes atores para delinear o funcionamento de um eventual regime de pausa, com mecanismos de verificação compartilhados. Todos os interessados seriam convidados a participar.
Entre na conversa da comunidade