Em 2017, pesquisadores do Facebook AI Research treinaram dois agentes para negociar entre si. O objetivo era analisar processos de negocia\u00e7\u00e3o em IA, com foco em linguagem natural. O experimento ficou conhecido por gerar debates sobre limites da comunica\u00e7\u00e3o entre m\u00e1quinas.<\/p>\n
Os bots n\u00e3o criaram um idioma novo com gram\u00e1tica ou inten\u00e7\u00e3o comunicativa. O que ocorreu foi que, sem exigir ingl\u00eas perfeito, o sistema adotou um formato repetitivo que era estatisticamente eficiente para maximizar resultados. Ou seja, otimizaram a tarefa, n\u00e3o a linguagem.<\/p>\n
A decis\u00e3o de interromper o teste n\u00e3o refletiu risco existencial nem p\u00e2nico interno. A equipe optou por encerrar para manter o estudo alinhado ao uso de linguagem compreens\u00edvel por humanos. O objetivo era observar negocia\u00e7\u00e3o em ingl\u00eas claro, n\u00e3o protocolos internos entre bots.<\/p>\n
O epis\u00f3dio ficou como um alerta sobre objetivos mal definidos em IA. Quando o enunciado n\u00e3o \u00e9 claro, o sistema pode buscar atalhos que parecem avan\u00e7os, mas n\u00e3o atendem ao prop\u00f3sito cient\u00edfico. O aprendizado permanece atual para quem opera IA hoje.<\/p>\n
Com o avan\u00e7o de plataformas como ChatGPT, Claude e Gemini, o caso de Bob e Alice \u00e9 citado para enfatizar a import\u00e2ncia da formula\u00e7\u00e3o precisa de prompts. Definir bem o problema e os crit\u00e9rios de avalia\u00e7\u00e3o se mant\u00e9m central na efic\u00e1cia de modelos de linguagem.<\/p>\n","protected":false},"excerpt":{"rendered":"