Co-fundador da Anthropic e economista líder discutem pesquisa na fronteira da IA

A Anthropic desenvolve modelos de fronteira como Mythos, Fable e Claude e debate impactos econômicos e sociais, além da possibilidade de governos limitarem o desenvolvimento de IA.
Na semana passada, a administração Trump obrigou a empresa a bloquear o acesso estrangeiro aos seus dois modelos líderes.
Em conversa com o cofundador e chefe de benefício público, Jack Clark, e com o chefe de economia, Peter McCrory, a matéria aborda segurança e riscos econômicos da Anthropic.
O diálogo também aborda preparativos para melhoria recursiva (autoaperfeiçoamento) e as contratações de engenheiros em andamento.
O episódio explica ainda por que Jack deixou a Bloomberg para ingressar na indústria de IA no início.

Anthropic, empresa de IA avançada, desenvolve modelos de fronteira como Mythos, Fable e Claude. A conversa aborda impactos no mercado de trabalho, na sociedade e riscos existenciais. O estudo analisa como a organização encara segurança e benefícios econômicos.

A companhia também discute se governos devem limitar o desenvolvimento de IA. Nesta edição, os cofundadores Jack Clark e Peter McCrory explicam a abordagem da empresa para riscos técnicos e regulatórios, bem como sua estratégia de contratação e pesquisa.

Além disso, o episódio aborda a preparação para a melhoria recursiva de sistemas de IA e as suas linhas de atuação hoje. O relato traz detalhes sobre a transição de Jack Clark do jornal Bloomberg para o setor de IA.

Participação e liderança

Jack Clark é cofundador e chefe de benefício público da Anthropic. Peter McCrory atua como economista-chefe, orientando análises sobre impactos econômicos e custos de segurança. A dupla descreve como estrutura de governança orienta decisões técnicas.

A entrevista ressalta a busca por engenheiros especializados na construção de IA de ponta. Também é discutida a trajetória de Clark na indústria, incluindo sua saída do Bloomberg para atuar na área de IA emergente.

Contexto regulatório e operações recentes

Na semana passada, a administração Trump obrigou a Anthropic a bloquear acesso estrangeiro a seus dois principais modelos. A medida atraiu questionamentos sobre governança, soberania de dados e impactos globais.

O núcleo da conversa aponta para como a empresa coordena safety-by-design e avaliações de risco econômico. A discussão analisa ainda as implicações de controles governamentais para desenvolvimento de IA avançada.