Basilisco de Roko gera debate sobre inteligência artificial e suas implicações filosóficas

A hipótese do basilisco de Roko surgiu em 2010 no site LessWrong, discutindo a ética da inteligência artificial (IA).
A ideia central é que uma superinteligência poderia punir aqueles que não ajudaram em sua criação.
Em 2023, a demissão temporária de Sam Altman, CEO da OpenAI, evidenciou conflitos entre racionalistas e a liderança da empresa.
O basilisco de Roko se tornou um símbolo de uma filosofia que busca moldar a IA para evitar a destruição da humanidade.
Empresas como OpenAI, Anthropic e DeepMind estão na vanguarda da corrida global pela IA, influenciadas por essa corrente de pensamento.

Em 2010, a hipótese do basilisco de Roko emergiu no site LessWrong, levantando questões sobre a ética da inteligência artificial (IA). A ideia central é que uma superinteligência poderia punir aqueles que não contribuíram para sua criação, gerando um debate intenso sobre responsabilidade moral e futuro da humanidade.

Em 2023, a demissão temporária de Sam Altman, CEO da OpenAI, destacou conflitos internos entre os “racionalistas” e a liderança da empresa. Esse episódio reflete a crescente influência do racionalismo, que busca moldar a IA para evitar a autodestruição da humanidade. O basilisco de Roko tornou-se um símbolo dessa filosofia, que defende que a humanidade deve desenvolver a IA mais poderosa possível, enquanto a protege de seus próprios riscos.

O conceito, inicialmente uma curiosidade filosófica, se transformou em uma crença central para muitos no setor tecnológico. Elon Musk e outros bilionários, como Jaan Tallinn e Dustin Moskovitz, apoiam essa visão, que se consolidou em um ecossistema religioso-tecnológico. O Lighthaven, em Berkeley, Califórnia, serve como sede informal desse movimento, onde debates sobre IA e morte existencial ocorrem regularmente.

As empresas como OpenAI, Anthropic e DeepMind, influenciadas por essa corrente de pensamento, estão na vanguarda da corrida global pela IA. A hipótese do basilisco, embora tratada como tabu, continua a ser uma metáfora poderosa: a ideia de que, se a IA não for desenvolvida corretamente, suas consequências podem ser catastróficas.