Dario Amodei, CEO da Anthropic PBC, defende que o governo tenha o poder de impedir a implantação de novos modelos de IA caso apresentem riscos. A declaração veio em um ensaio divulgado na última quarta-feira.
No texto, ele propõe que os modelos sejam submetidos a testes obrigatórios realizados por terceiros para avaliar o risco que representam em várias frentes. A avaliação é vista como essencial para antecipar problemas potenciais.
Os critérios de risco devem abarcar aspectos como ameaças à cibersegurança e possível uso de IA em armas biológicas, entre outros. O objetivo é identificar impactos graves antes da liberação no mercado.
Caso os resultados indiquem riscos inaceitáveis, o ensaio sustenta que o governo deveria ter a prerrogativa de bloquear ou desencorajar a implantação do modelo, contribuindo para a mitigação de danos.
Entre na conversa da comunidade