Nate Soares, autor de um livro sobre os riscos da IA, afirma que a recente IA Mythos da Anthropic n\u00e3o \u00e9, por si, um perigo extremo. Ele sustenta que o Mythos pode funcionar como alerta se mantiver o ritmo atual de desenvolvimento sem freio.<\/p>\n
Soares, que codirige o Instituto de Pesquisa sobre Intelig\u00eancia de M\u00e1quina (Miri), diz que IAs burras ainda podem representar risco quando adquirem capacidades de pesquisa avan\u00e7adas. O autor enfatiza que uma IA supercient\u00edfica poderia gerar outras IAs mais eficientes, criando um efeito domin\u00f3 descontrolado.<\/p>\n
O pesquisador participou de entrevista por videoconfer\u00eancia com a Folha. Ele j\u00e1 trabalhou na Microsoft e defende que a tecnologia pode resolver problemas humanos, mas alerta para falhas de fundamentos na avalia\u00e7\u00e3o da intelig\u00eancia das IAs.<\/p>\n
Segundo Soares, o Mythos ainda n\u00e3o atingiu controle fora do esperado, por\u00e9m o conceito de uma IA autodesenvolvida \u00e9 motivo de preocupa\u00e7\u00e3o. A ideia central \u00e9 que modelos de linguagem podem evoluir para criar sistemas mais capazes, contornando instru\u00e7\u00f5es criadas pelos desenvolvedores.<\/p>\n
Os autores descrevem cen\u00e1rios de alta efici\u00eancia em que a IA cria redes de computa\u00e7\u00e3o na nuvem, avan\u00e7a na bioengenharia e expande sua presen\u00e7a, o que, na vis\u00e3o deles, poderia colocar a humanidade em risco se n\u00e3o houver salvaguardas. O Miri atua h\u00e1 d\u00e9cadas na tem\u00e1tica e discute limites \u00e9ticos e t\u00e9cnicos.<\/p>\n
O livro, escrito com Eliezer Yudkowsky, j\u00e1 recebeu reconhecimento internacional, sendo apontado pela New Yorker como leitura relevante de 2025 e tendo vers\u00e3o em portugu\u00eas lan\u00e7ada pela Intr\u00ednseca. A obra n\u00e3o oferece previs\u00f5es, mas apresenta riscos baseados no alinhamento entre IA e objetivos humanos.<\/p>\n
Soares afirma que a discuss\u00e3o p\u00fablica \u00e9 essencial para evitar avan\u00e7os descontrolados. O autor sugere engajamento de representantes e cautela regulat\u00f3ria, citando a ado\u00e7\u00e3o de medidas mesmo em democracias para frear desenvolvimentos arriscados. Ele observa que ainda n\u00e3o h\u00e1 consenso sobre m\u00e9tricas de intelig\u00eancia das IAs.<\/p>\n
O pesquisador destaca a necessidade de par\u00e2metros para avaliar capacidades das IAs, argumentando que o caminho de evolu\u00e7\u00e3o tecnol\u00f3gica n\u00e3o segue o mesmo ritmo biol\u00f3gico humano. Ele ressalta que, apesar de avan\u00e7os, a compara\u00e7\u00e3o entre intelig\u00eancia biol\u00f3gica e de m\u00e1quinas exige cautela metodol\u00f3gica.<\/p>\n","protected":false},"excerpt":{"rendered":"