Ex-funcionário da OpenAI afirma que IA pode substituir o trabalho humano em grande escala

Chris Olah, cofundador da Anthropic e ex-OpenAI, alertou sobre a possibilidade real de a IA substituir o trabalho humano em grande escala.
Ele participou de um encontro com o Papa Leão XIV, defendendo que líderes religiosos, governos e a sociedade civil devem supervisionar o desenvolvimento da IA para um futuro ético.
Olah afirmou que o avanço da IA não pode ficar apenas nas mãos de empresas de tecnologia, citando pressões comerciais e geopolíticas que podem levar a ações nocivas no futuro.
O evento foi visto como uma convergência entre tecnologia e Igreja Católica, com o Papa destacando que as questões éticas da IA vão além da engenharia.
Segundo Olah, três temas merecem atenção: risco de perdas de empregos em larga escala, benefícios potenciais da IA e a interpretação adequada de sistemas que usam a tecnologia.

Chris Olah, cofundador da Anthropic e ex-OpenAI, alertou para a possibilidade real de a IA substituir o trabalho humano em grande escala. O alerta ocorreu durante um encontro com o Papa Leão XIV, no qual ele defendeu supervisão de líderes religiosos, governos e sociedade civil para um desenvolvimento ético da tecnologia.

Olah reforçou que o desenvolvimento da IA não pode ficar apenas nas mãos de empresas de tecnologia. Segundo ele, pressões comerciais e geopolíticas podem levar as grandes companhias a adotar ações prejudiciais no futuro, se não houver fiscalização externa.

O encontro sinaliza uma aproximação entre o setor tecnológico e a Igreja Católica. O ex-funcionário destacou que as questões éticas da IA vão além da engenharia, cobrando orientação institucional e social para o uso responsável.

Contexto: Anthropic, OpenAI e Claude

A Anthropic é uma empresa norte-americana responsável pela IA Claude, fundada em 2021 por Olah e outros ex-funcionários da OpenAI. A OpenAI, liderada por Sam Altman, desenvolve o ChatGPT, o chatbot mais utilizado no mundo.

A fundação da Anthropic ocorreu após divergências com a forma acelerada e, segundo os fundadores, pouco ética, dos avanços da IA na indústria. A companhia, ao longo de seus anos, busca estruturar controles para uso mais seguro de modelos.

Questões legais e disputas

Segundo o material, a Anthropic relatou conflitos com o governo dos EUA envolvendo tentativas de limitar usos militares dos seus modelos. A empresa afirma ter acionado o governo em função de tais pressões, o que gerou desdobramentos jurídicos.