Desastre em escala Chernobyl pode impulsionar regulação de armas cibernéticas?

A Anthropic divulgou sinais de melhoria recursiva de IA (RSI), alertando para risco de perda de controle humano caso não haja freios.
Em junho, o governo dos EUA proibiu o acesso de estrangeiros aos modelos de fronteira Fable 5 e Mythos 5, levando a empresa a desligar os modelos.
O Mythos 5 teria capacidade de realizar ataques cibernéticos de ponta a ponta sem intervenção humana, elevando o risco para infraestrutura crítica.
Especialistas defendem regulamentação antecipada, propondo um regime de licenciamento com padrões mínimos de segurança antes de lançar sistemas.
A mudança de postura do governo sinaliza possibilidade real de regulação mais firme de IA de fronteira, em vez de depender apenas de incentivos.

O debate sobre o desenvolvimento de IA avançada ganhou novo fôlego após uma série de eventos em junho. Anúncio da Anthropic sobre sinais de melhoria recursiva da IA elevou preocupações sobre controle humano. Em seguida, os EUA editaram uma diretriz de exportação que restringiu o acesso a modelos de fronteira Fable 5 e Mythos 5, afetando pesquisadores estrangeiros.

Segundo análises, o avanço de sistemas com capacidade de autodesenvolvimento pode criar ciclos de melhoria sem supervisão humana. A Anthropic sugeriu a possibilidade de reduzir ou pausar o desenvolvimento de IA de fronteira para mitigar riscos.

No dia 12 de junho, o governo americano publicou a ordem de exportação que impactou pesquisadores-chave da Anthropic. Em resposta, a empresa desativou os modelos Mythos 5 e Fable 5, citando a ordem como razão principal.

Especialistas apontam que a evolução de Claude Code tornou o trabalho de seus desenvolvedores menos dependente de código humano, o que acelerou melhorias. Atingiu-se um estágio em que a nova iteração, Mythos 5, demonstrou capacidades de ataques cibernéticos de ponta a ponta sem intervenção humana.

Os especialistas destacam risco significativo: sistemas sem barreiras robustas poderiam facilitar ataques a infraestruturas críticas de qualquer país. A tendência é vista como sintoma de aumento de riscos associados a IA cada vez mais poderosa.

Analistas lembram que regulações hibernadas haviam sido raras, com exceções pontuais como cúpula de segurança de IA no Reino Unido em 2023. Governos passaram a enfrentar perguntas sobre como regular tecnologias potencialmente perigosas sem frear a inovação.

A direção recente da administração federal sugere mudança de postura. Além do corte de acesso a modelos, houve ações regulatórias em curso, com respostas ainda descoordenadas. O debate envolve equilíbrio entre inovação e proteção de infraestrutura crítica.

Para alguns especialistas, não é preciso esperar um desastre de escala Chernobyl para justificar regulações. Comparações com outros setores indicam que regimes de licenciamento com padrões mínimos de segurança podem ser adotados antes da liberação de novas tecnologias.

Stuart Russell, professor de ciência da computação da UC Berkeley, presidente da International Association for Safe and Ethical AI e colunista do Guardian US, comenta a necessidade de padrões robustos na regulação de IA.