- A Anthropic defende a criação de um mecanismo para interromper temporariamente os avanços da IA, para dar tempo à sociedade lidar com as implicações.
- A proposta prevê um acordo global com auditorias rigorosas e verificação entre as próprias empresas, incluindo inspeções físicas e de software nos data centers.
- A ideia envolve rodadas de conversa com formuladores de políticas, pesquisadores e executivos de outras companhias, com divulgação futura dos resultados.
- Em 2023, o Future of Life Institute já havia feito um pedido semelhante, assinado por Elon Musk e mais de mil signatários, mas o movimento não ganhou adesão suficiente.
- Mesmo com o apelo, a Anthropic segue avançando rapidamente em pesquisa e desenvolvimento, inclusive com o lançamento do modelo Mythos, num contexto de preparação para IPO.
A Anthropic, empresa responsável pelo assistente Claude, defende a criação de um mecanismo de interrupção temporária dos avanços da IA. A justificativa é oferecer uma janela para sociedade lidar com as implicações da tecnologia antes de um ponto de autonomia irreversível.
No blog oficial, a companhia descreve que a IA está evoluindo para além de ferramenta de apoio, podendo tornar-se capaz de escrever código, identificar gargalos e lançar atualizações sozinha. O cenário seria uma evolução contínua com menos necessidade de supervisão humana.
A proposta sugere um modelo semelhante a tratados internacionais sobre armamentos, com garantias de que concorrentes não avancem em segredo durante a paralisação. Auditorias físicas e de software entre data centers estariam previstas para verificar o cumprimento.
A dona do Claude pretende promover rodadas de diálogo com formuladores de políticas, pesquisadores e executivos de outras empresas. Os desdobramentos desses encontros serão tornados públicos posteriormente, conforme o processo avance.
Substitui o foco no debate técnico por um novo marco regulatório para IA, buscando equilíbrio entre inovação e controle de riscos. A ideia é tornar transparente o diálogo entre setor privado, governos e academia.
Os críticos lembram dificuldades de frear a corrida tecnológica, como a natureza global do desenvolvimento e o segredo em hardwares de uso generalizado. Além disso, o potencial ganho competitivo para quem violar acordos tende a desequilibrar o mercado.
Mesmo com o apelo, dados da Bloomberg indicam que a Anthropic continua a avançar em pesquisa e desenvolvimento. A empresa anunciou recentemente o Mythos, um novo modelo, enquanto prepara sua oferta pública de ações.
Entre na conversa da comunidade