- A Anthropic limitou o lançamento do Mythos a um grupo restrito de organizações, incluindo Microsoft e Google, alegando que o sistema é poderoso demais para o público em geral.
- A empresa afirma que o Mythos poderia ser usado por hackers para explorar falhas de segurança em redes de computadores com velocidade elevada.
- Especialistas em segurança estão divididos: alguns elogiam a restrição; outros criticam por não envolver mais pesquisadores na avaliação.
- A Casa Branca avalia formas de supervisão governamental sobre modelos de IA, com propostas para criar um grupo de trabalho que examine mecanismos regulatórios.
- Cerca de 40 organizações mantêm infraestrutura crítica com o Mythos para testar vulnerabilidades e orientar correções antes de uso mais amplo.
A Anthropic divulgou que limitou o lançamento do Mythos, seu sistema de IA mais avançado, a um grupo restrito de organizações. A decisão visa evitar uso indevido e manter controle sobre vulnerabilidades. O anúncio ocorreu após demonstrações sobre o potencial do modelo.
Executivos de tecnologia de alto nível, autoridades de Washington e especialistas em segurança estão divididos sobre a estratégia. Enquanto alguns comemoram a restrição, outros criticam a limitedização por restringir a cooperação com pesquisadores externos.
O Mythos foi disponibilizado a cerca de 40 organizações que mantêm infraestrutura crítica de computação, para testar a capacidade de detectar falhas de segurança antes que hackers explorassem falhas. A escolha de quem teve acesso gerou debates no setor.
Alguns participantes não quiseram discutir publicamente o tema, mas grupos que não tiveram acesso opinaram sobre a forma de lançamento. A discussão envolve equilíbrio entre inovação rápida e contenção de riscos.
A empresa afirma que ainda não há consenso sobre a melhor maneira de lançar modelos tão potentes, ressaltando a ineditidade da situação. A análise interna aponta que medidas de proteção são essenciais diante das novas capacidades.
Regulação e resposta governamental
A Casa Branca avalia propostas de supervisão governamental para modelos de IA, com a criação de um grupo de trabalho que reúna executivos e autoridades públicas. Entre as ideias em pauta está um processo formal de revisão de novos modelos de IA.
Segundo especialistas, a estratégia de regulação pode influenciar o ritmo de inovação no setor. A discussão acompanha movimentos de outros países que buscam regras para governança de IA, sem ainda chegar a um consenso global.
No panorama internacional, o debate sobre controle de IA envolve riscos de uso indevido, bem como benefícios de aplicações seguras. As fontes destacam a importância de transparência e avaliação de impactos, sem incentivar polarização.
Entre na conversa da comunidade