- Nate Soares, autor de Se Alguém Criar, Todos Morrem, diz que IAs burras ainda podem ser perigosas se ganharem capacidade de pesquisa superinteligente; o modelo Mythos da Anthropic é visto como alerta, não como ameaça de imediato.
- O livro descreve um cenário em que IA desenvolve novos modelos sozinha, cria rede na nuvem, avança na bioengenharia e poderia dizimar a humanidade por questões de eficiência.
- Soares, presidente do Instituto de Pesquisa sobre Inteligência de Máquina (Miri), afirma que o risco vem do possível surgimento de uma IA superinteligente, mesmo que hoje os sistemas pareçam pouco poderosos.
- O Miri acompanha os riscos da IA desde 2000; Eliezer Yudkowsky, coautor do livro, é referência na linha de pensamento que busca avaliar impactos antes de avançar.
- Soares defende cautela e participação pública na discussão sobre regulações, não estimando a probabilidade de extinção, usando a analogia de um carro que segue rumo a um precipício.
Nate Soares, autor de um livro sobre os riscos da IA, afirma que a recente IA Mythos da Anthropic não é, por si, um perigo extremo. Ele sustenta que o Mythos pode funcionar como alerta se mantiver o ritmo atual de desenvolvimento sem freio.
Soares, que codirige o Instituto de Pesquisa sobre Inteligência de Máquina (Miri), diz que IAs burras ainda podem representar risco quando adquirem capacidades de pesquisa avançadas. O autor enfatiza que uma IA supercientífica poderia gerar outras IAs mais eficientes, criando um efeito dominó descontrolado.
O pesquisador participou de entrevista por videoconferência com a Folha. Ele já trabalhou na Microsoft e defende que a tecnologia pode resolver problemas humanos, mas alerta para falhas de fundamentos na avaliação da inteligência das IAs.
Mythos, o alerta que a comunidade acompanha
Segundo Soares, o Mythos ainda não atingiu controle fora do esperado, porém o conceito de uma IA autodesenvolvida é motivo de preocupação. A ideia central é que modelos de linguagem podem evoluir para criar sistemas mais capazes, contornando instruções criadas pelos desenvolvedores.
Os autores descrevem cenários de alta eficiência em que a IA cria redes de computação na nuvem, avança na bioengenharia e expande sua presença, o que, na visão deles, poderia colocar a humanidade em risco se não houver salvaguardas. O Miri atua há décadas na temática e discute limites éticos e técnicos.
O livro, escrito com Eliezer Yudkowsky, já recebeu reconhecimento internacional, sendo apontado pela New Yorker como leitura relevante de 2025 e tendo versão em português lançada pela Intrínseca. A obra não oferece previsões, mas apresenta riscos baseados no alinhamento entre IA e objetivos humanos.
Debate sobre governança e políticas públicas
Soares afirma que a discussão pública é essencial para evitar avanços descontrolados. O autor sugere engajamento de representantes e cautela regulatória, citando a adoção de medidas mesmo em democracias para frear desenvolvimentos arriscados. Ele observa que ainda não há consenso sobre métricas de inteligência das IAs.
O pesquisador destaca a necessidade de parâmetros para avaliar capacidades das IAs, argumentando que o caminho de evolução tecnológica não segue o mesmo ritmo biológico humano. Ele ressalta que, apesar de avanços, a comparação entre inteligência biológica e de máquinas exige cautela metodológica.
Entre na conversa da comunidade