A Anthropic, empresa responsável pela IA Claude, propõe uma pausa global no desenvolvimento de sistemas de Inteligência Artificial. A sugestão foi anunciada em comunicado divulgado na quarta-feira, 4, com o objetivo de impedir que modelos avancem além do controle humano.
A companhia, com sede em San Francisco, foi fundada em 2021 por Christopher Olah e ex-funcionários da OpenAI. A OpenAI é liderada por Sam Altman, e é responsável pelo ChatGPT, hoje um dos principais chatbots do mundo.
Segundo o relatório, desacelerar o ritmo de aprimoramento seria benéfico para a sociedade. Contudo, a Anthropic ressalta que o recuo precisa ocorrer de forma coordenada entre as empresas da área.
A proposta aponta que, se apenas uma organização reduzir o ritmo, pode ficar para trás frente à concorrência. Assim, a pausa seria implementada com regras comuns para desenvolvedores.
Proposta de pausa global
A ideia envolve grandes empresas de IA de diversos países, especialmente EUA e China, concordando em parar simultaneamente as ações. A Anthropic sinaliza a necessidade de diretrizes claras para todos seguirem.
Desafios e próximos passos
A empresa planeja reunir governo, pesquisadores e representantes de concorrentes nos próximos meses para discutir o funcionamento da pausa. O objetivo é obter consenso sobre critérios, prazos e fiscalização.
A Anthropic destaca que o ritmo atual da evolução das IA é acelerado. O relatório alerta que modelos capazes de aprender sozinhos poderiam sair do controle humano se não houver regulação.
Entre na conversa da comunidade