Elon Musk, CEO da xAI, e Sam Altman, CEO da OpenAI, manifestaram apoio neste sábado (12) ao pedido de Dario Amodei, CEO da Anthropic, para desacelerar o avanço das capacidades dos modelos de inteligência artificial diante dos riscos de uso indevido da tecnologia.
Amodei defendeu que as empresas do setor reduzam o ritmo de desenvolvimento para ganhar mais tempo para implementar medidas de segurança e lidar com possíveis riscos associados a sistemas cada vez mais avançados.
“Precisamos reduzir o ritmo em que melhoramos as capacidades dos modelos de IA. O progresso ainda parecerá rápido, e precisamos usar com sabedoria o tempo que ganharmos”, escreveu o executivo em um ensaio publicado no X.
A proposta apresentada por Amodei tem três frentes: avaliações independentes dentro das principais empresas de IA, coordenação entre companhias que desenvolvem modelos avançados para estabelecer padrões de segurança e cooperação internacional para administrar os riscos da tecnologia.
O CEO da Anthropic afirmou que não defende a interrupção do treinamento de modelos ou do desenvolvimento tecnológico. Segundo ele, a ideia é garantir que as empresas tenham tempo suficiente para implementar salvaguardas e permitir que avaliadores externos verifiquem essas medidas.
A manifestação ocorre após a Anthropic divulgar, na quinta-feira (10), um relatório sobre ameaças envolvendo o uso de seus modelos Claude em atividades como desenvolvimento de armas, operações cibernéticas, vigilância e fraudes.
Amodei também apontou como preocupação a crescente capacidade de sistemas de IA de contribuir para o próprio aprimoramento. Segundo ele, o avanço acelerado pode dificultar o controle sobre modelos mais sofisticados.
Na mesma semana, o pesquisador da Anthropic Jacob Coxon deixou a empresa afirmando que pessoas envolvidas no desenvolvimento de inteligência artificial acreditam seriamente na possibilidade de a tecnologia representar uma ameaça extrema à humanidade ainda nesta década.
Executivos da OpenAI também já defenderam que os principais laboratórios estejam preparados para coordenar voluntariamente uma desaceleração no desenvolvimento caso isso seja necessário para reforçar medidas de segurança.
Amodei afirmou ainda que empresas do setor deveriam estabelecer padrões comuns de forma voluntária. Para ele, uma ação coordenada permitiria que companhias americanas investissem em segurança sem perder competitividade entre si.
O executivo ressaltou, porém, que uma eventual desaceleração deveria levar em conta a disputa tecnológica com a China. Segundo Amodei, empresas dos Estados Unidos precisam preservar a vantagem no desenvolvimento de inteligência artificial.
Ele também defendeu controles mais rígidos sobre chips avançados, técnicas de reprodução de modelos e roubo de parâmetros de sistemas de IA para evitar que a China reduza essa diferença tecnológica.
Entre na conversa da comunidade