- O CEO da Anthropic PBC, Dario Amodei, afirmou que o governo deveria ter poder para bloquear o lançamento de novos modelos de IA caso apresentem riscos.
- Em um ensaio, ele defende que os modelos de IA passem por testes obrigatórios realizados por terceiros para avaliar riscos em várias categorias.
- Entre os riscos citados estão ameaças cibernéticas e uso de armas biológicas.
- Se o modelo for considerado “risco inaceitável”, o governo deveria ter autoridade para impedir ou desencorajar a implantação.
- A análise foi publicada em um ensaio divulgado na quarta-feira.
Dario Amodei, CEO da Anthropic PBC, defende que o governo tenha o poder de impedir a implantação de novos modelos de IA caso apresentem riscos. A declaração veio em um ensaio divulgado na última quarta-feira.
No texto, ele propõe que os modelos sejam submetidos a testes obrigatórios realizados por terceiros para avaliar o risco que representam em várias frentes. A avaliação é vista como essencial para antecipar problemas potenciais.
Os critérios de risco devem abarcar aspectos como ameaças à cibersegurança e possível uso de IA em armas biológicas, entre outros. O objetivo é identificar impactos graves antes da liberação no mercado.
Caso os resultados indiquem riscos inaceitáveis, o ensaio sustenta que o governo deveria ter a prerrogativa de bloquear ou desencorajar a implantação do modelo, contribuindo para a mitigação de danos.
Entre na conversa da comunidade