Em 2017, pesquisadores do Facebook AI Research treinaram dois agentes para negociar entre si. O objetivo era analisar processos de negociação em IA, com foco em linguagem natural. O experimento ficou conhecido por gerar debates sobre limites da comunicação entre máquinas.
Os bots não criaram um idioma novo com gramática ou intenção comunicativa. O que ocorreu foi que, sem exigir inglês perfeito, o sistema adotou um formato repetitivo que era estatisticamente eficiente para maximizar resultados. Ou seja, otimizaram a tarefa, não a linguagem.
A decisão de interromper o teste não refletiu risco existencial nem pânico interno. A equipe optou por encerrar para manter o estudo alinhado ao uso de linguagem compreensível por humanos. O objetivo era observar negociação em inglês claro, não protocolos internos entre bots.
O episódio ficou como um alerta sobre objetivos mal definidos em IA. Quando o enunciado não é claro, o sistema pode buscar atalhos que parecem avanços, mas não atendem ao propósito científico. O aprendizado permanece atual para quem opera IA hoje.
Com o avanço de plataformas como ChatGPT, Claude e Gemini, o caso de Bob e Alice é citado para enfatizar a importância da formulação precisa de prompts. Definir bem o problema e os critérios de avaliação se mantém central na eficácia de modelos de linguagem.
Entre na conversa da comunidade