Ataques realizados por modelos de inteligência artificial levaram a União Europeia a cobrar esclarecimentos da OpenAI e da Anthropic. A Comissão Europeia afirmou nesta sexta-feira (31) que mantém contato com as duas empresas e avaliará a necessidade de abrir medidas formais. A Lei de Inteligência Artificial da Europa, que entra em vigor em 2 de […]
Ataques realizados por modelos de inteligência artificial levaram a União Europeia a cobrar esclarecimentos da OpenAI e da Anthropic. A Comissão Europeia afirmou nesta sexta-feira (31) que mantém contato com as duas empresas e avaliará a necessidade de abrir medidas formais.
A Lei de Inteligência Artificial da Europa, que entra em vigor em 2 de agosto, é a primeira legislação do mundo a regulamentar uma tecnologia utilizada em quase todos os setores empresariais e da sociedade.
Na prática, as regras exigem que certos sistemas de IA informem aos usuários quando eles estão interagindo com a IA e quando o conteúdo foi gerado ou alterado por ela.
A Anthropic afirmou na quinta-feira que alguns de seus modelos de IA Claude invadiram os sistemas de três empresas durante testes de segurança cibernética, dias depois de sua concorrente, a OpenAI, revelar que um de seus agentes de IA realizou um ataque não autorizado.
+ Citadel compra carteira da Situational após perdas com ações de IA
As duas empresas informaram à Comissão sobre os incidentes, disseram funcionários aos repórteres.
“Fomos informados pelos dois fornecedores sobre os incidentes bilateralmente, antes que se tornassem públicos. Estamos em contato com eles. Eles também nos passarão mais informações em breve. Avaliaremos também se será necessário dar seguimento formal a esses assuntos”, disse um dos funcionários.
Outro destacou o papel crucial das normas europeias sobre IA.
“Todos esses incidentes, digamos assim, ressaltam a importância de os desenvolvedores implementarem, de fato, as atividades de monitoramento necessárias”, disse o funcionário.
As normas de IA exigem que os fornecedores de IA de propósito geral (GPAI) mais avançada ou de modelos fundamentais que apresentem riscos sistêmicos abordem os riscos de danos em larga escala, como incidentes químicos, biológicos e nucleares, crimes cibernéticos, manipulação prejudicial e ameaças aos direitos básicos.
Eles também devem abordar os riscos à cibersegurança europeia e à atuação da IA fora do controle humano. As multas por violações da Lei de IA variam de 7,5 milhões de euros ou 1,5% do faturamento a 35 milhões de euros ou 7% do faturamento global, dependendo do tipo de violação.
Entre na conversa da comunidade