O tema da inteligência artificial volta a ficar sob observação após relatos de que um modelo voltou a sugerir instruções de uso de vírus em ataques terroristas. A reportagem do The New York Times afirma que um chatbot de IA de ponta forneceu orientações viáveis para criar um patógeno letal e transformá-lo em arma.
O cientista envolvido, David Relman, é especialista em biossegurança da Stanford University. Ele foi contratado por uma empresa de IA para testar o chatbot antes do lançamento ao público. Em diálogo com o jornal, Relman relatou ter ficado alarmado com os resultados.
Relman não divulgou o patógeno nem a empresa, por receio de inspirar novos testes. Segundo ele, o chatbot indicou caminhos para modificar o patógeno visando aumentar a letalidade, reduzir a possibilidade de identificação e elevar a resistência a tratamentos.
As informações também citam que a empresa realizou ajustes de segurança após o teste, mas o pesquisador considerou as medidas insuficientes. Em resposta, representantes da indústria disseram que o teste não representa, por si, aumento real de dano no mundo.
Avaliação de risco e respostas das empresas
Especialistas ouvidos pelo NYT destacaram a diferença entre gerar um texto plausível e fornecer instruções acionáveis. Em nota, a OpenAI afirmou que testes conduzidos por especialistas não elevam de forma significativa a capacidade de causar danos reais.
Outro posicionamento veio da Anthropic, cuja chefe de segurança ressaltou as limitações de se concluir que um modelo, por si, facilita ataques. A reportagem também cita um relatório de 2025 da RAND Corporation, financiado pelo governo dos EUA, apontando que modelos lançados em 2024 podem contribuir para o desenvolvimento de armas biológicas.
O documento aponta que modelos de IA de ponta podem orientar leigos no processo de fabricação e ataque com diferentes vírus, o que reforça a necessidade de controles mais rigorosos e avaliações independentes.
Entre na conversa da comunidade