Criador do AlphaGo diz que IA está no caminho errado

David Silver, criador do AlphaGo, lançou a Ineffable Intelligence para desenvolver IA de “superaprendizado” usando aprendizagem por reforço, com foco em aprender por tentativa e erro em simulações.
A empresa já levantou 1,1 bilhão de dólares em seed funding e tem avaliação de 5,1 bilhões de dólares, recrutando pesquisadores de destaque.
Silver critica a abordagem atual de IA baseada em grandes modelos de linguagem, que depende de dados humanos; ele defende que IA pode aprender sozinha, como combustível renovável.
A estratégia envolve colocar agentes de IA em simulações para aprender a alcançar objetivos, colaborar e evoluir, com atenção à segurança e ao alinhamento com valores humanos.
O fundador pretende doar a maior parte de lucros provenientes de participações na empresa para caridade, destacando a responsabilidade social da iniciativa.

David Silver, criador por trás do AlphaGo, afirma que IA está seguindo o caminho errado. Ele lançou a Ineffable Intelligence, uma startup de bilhões de dólares que busca desenvolver “superaprendizes” por meio de reforço de aprendizado.

A empresa aposta em modelos que aprendem com tentativas e erros, em oposição ao foco dominante em grandes modelos de linguagem. Silver acredita que esse caminho pode levar a formas mais gerais de superinteligência, além da capacidade humana em várias áreas.

Segundo o fundador, a visão é criar IA que evolua sem depender de dados humanos, tratando o aprendizado como uma fonte renovável. Ele defende que a IA possa descobrir ciência, tecnologia e novas formas de organização social por conta própria.

Silver compara o estágio atual da IA com a biologia antes de Darwin, quando faltava uma explicação unificada. A proposta é levar agentes de IA a ambientes simulados para aprender objetivos e cooperação entre eles, antes de enfrentar o mundo real.

A Ineffable Intelligence já levantou 1,1 bilhão de dólares em financiamento semente, com avaliação de 5,1 bilhões. Pesquisadores de alto nível de DeepMind e de outros laboratórios de ponta foram recrutados para a empreitada.

O investimento está apoiado pela Lightspeed Ventures, com Ravi Mhatre como parceiro. A empresa planeja manter a maior parte dos ganhos de ações como doação para instituições de caridade e ações de alto impacto social.

Total Focus

Silver conheceu Demis Hassabis na infância, quando participaram de um torneio de xadrez, e a relação evoluiu para amizade e parceria profissional. Ele deixou a DeepMind para trilhar um caminho próprio, defendendo que há espaço dedicado apenas a esse modelo de IA.

Mhatre afirma que a abordagem pode oferecer maior alinhamento com valores humanos, pois não depende tanto de comportamento humano para aprender. Ainda, ressalta que supervisão de segurança é um tema central no projeto.

A ideia de aprender por experiência remete aos primórdios da computação e à reinforçar o aprendizado. Silver sustenta que a aprendizagem com dados humanos é como um combustível fóssil frente a uma IA que aprende sozinha.

O desafio declarado é transferir o aprendizado de ambientes confinados, como jogos, para a complexidade do mundo real. Silver diz que simulações permitirão observar comportamentos de agentes frente a diferentes situações.

A notícia chega em meio a debates sobre limites, ética e segurança na corrida pela superinteligência. Especialistas destacam a importância de coordenação entre pesquisadores e reguladores para evitar riscos.