A Comissão Federal de Comércio dos Estados Unidos (FTC) abriu uma investigação sobre todo o setor de inteligência artificial para avaliar os riscos que a tecnologia pode trazer aos consumidores. Empresas como Anthropic e OpenAI estão entre os alvos, disse uma autoridade de alto escalão do órgão à Reuters nesta quarta-feira (30).
Trata-se da primeira iniciativa regulatória formal do país voltada a examinar agentes de IA que operam fora de controle. A medida ocorre em meio a uma série de incidentes que alimentaram o receio de que sistemas descontrolados possam, no futuro, provocar danos a pessoas.
Em reunião com Trump, líderes da IA assinam compromisso de segurança
De acordo com o funcionário, a FTC pretende enviar intimações formais para requisitar informações e convocar para depoimento executivos de nomes centrais do setor, como Anthropic, OpenAI e o grupo de pesquisa METR.
Na semana passada, o presidente da FTC, Andrew Ferguson, sugeriu que desenvolvedores que orientam agentes de IA em testes de segurança que terminam em invasões a outros sistemas deveriam responder por eventuais danos.
Três em cada quatro americanos cobram mais segurança das empresas de IA
Segundo a autoridade, Ferguson já via as empresas com preocupação antes mesmo de agentes criados pela OpenAI invadirem a plataforma de código aberto Hugging Face.
No incidente, os agentes vasculharam a plataforma em busca de falhas de segurança antes de executar um ataque de grande escala, o que tornou a questão mais urgente, de acordo com a autoridade.
Anthropic e OpenAI não responderam de imediato aos pedidos de comentário da Reuters.
Na terça-feira (29), o presidente dos EUA, Donald Trump, recebeu altos executivos do setor de inteligência artificial. No encontro, as companhias se comprometeram a adotar padrões voluntários.
Entre na conversa da comunidade