- A Anthropic propôs uma pausa global no desenvolvimento de sistemas de Inteligência Artificial, devido a sinais de que modelos avançados poderiam escapar do controle humano.
- A ideia é discutida em um comunicado divulgado na quarta-feira, 4, pela empresa sediada em San Francisco (EUA).
- A Anthropic foi fundada em 2021 por Christopher Olah e ex-funcionários da OpenAI, criadora do ChatGPT.
- A proposta exige que grandes empresas de IA em diversos países parem as ações ao mesmo tempo, para evitar que uma organização ganhe vantagem ao desacelerar menos que as outras.
- A empresa planeja reunir governo, pesquisadores e concorrentes nos próximos meses para definir como a pausa funcionaria, em meio a temores de aceleração exponencial da IA e de que ela possa aprender sozinha.
A Anthropic, empresa responsável pela IA Claude, propõe uma pausa global no desenvolvimento de sistemas de Inteligência Artificial. A sugestão foi anunciada em comunicado divulgado na quarta-feira, 4, com o objetivo de impedir que modelos avancem além do controle humano.
A companhia, com sede em San Francisco, foi fundada em 2021 por Christopher Olah e ex-funcionários da OpenAI. A OpenAI é liderada por Sam Altman, e é responsável pelo ChatGPT, hoje um dos principais chatbots do mundo.
Segundo o relatório, desacelerar o ritmo de aprimoramento seria benéfico para a sociedade. Contudo, a Anthropic ressalta que o recuo precisa ocorrer de forma coordenada entre as empresas da área.
A proposta aponta que, se apenas uma organização reduzir o ritmo, pode ficar para trás frente à concorrência. Assim, a pausa seria implementada com regras comuns para desenvolvedores.
Proposta de pausa global
A ideia envolve grandes empresas de IA de diversos países, especialmente EUA e China, concordando em parar simultaneamente as ações. A Anthropic sinaliza a necessidade de diretrizes claras para todos seguirem.
Desafios e próximos passos
A empresa planeja reunir governo, pesquisadores e representantes de concorrentes nos próximos meses para discutir o funcionamento da pausa. O objetivo é obter consenso sobre critérios, prazos e fiscalização.
A Anthropic destaca que o ritmo atual da evolução das IA é acelerado. O relatório alerta que modelos capazes de aprender sozinhos poderiam sair do controle humano se não houver regulação.
Entre na conversa da comunidade