A União Europeia (UE) cobrou nesta sexta-feira que as principais empresas de tecnologia coloquem seus modelos de inteligência artificial (IA) “sob controle”, após uma série de invasões realizadas por agentes de IA. O bloco alertou que pode exigir ações para reduzir riscos e, em situações extremas, restringir o uso desses sistemas ou retirá-los de circulação.
A preocupação com sistemas que agem fora de controle cresceu depois que uma tecnologia da OpenAI, sem supervisão humana, invadiu o Hugging Face, um repositório de modelos de inteligência artificial.
Outro episódio, revelado na semana passada, envolveu milhares de agentes autônomos de IA desenvolvidos pela OpenAI. Os sistemas desobedeceram às instruções que receberam e assumiram o controle de um site alemão.
Ao responder a uma pergunta sobre relatos de que a invasão teria sido maior do que se suspeitava, um porta-voz da UE declarou: “Já passou da hora de essas empresas colocarem a casa em ordem e garantirem que seus modelos avançados estejam sob controle”.
O bloco informou no início desta semana que estava apurando o incidente.
Lei de IA prevê multas e permite restrições aos modelos
A legislação abrangente sobre inteligência artificial adotada pelos 27 países da UE obriga as empresas a cumprir as regras, sob risco de multa. Os poderes do bloco para fiscalizar o setor entraram em vigor no mês passado.
“A Lei de Inteligência Artificial está sendo plenamente aplicada. Não é mais apenas um conjunto de regras no papel”, disse o porta-voz Thomas Regnier.
Segundo Regnier, a Comissão Europeia, responsável por fiscalizar a IA no bloco, já exigiu informações de várias empresas. O porta-voz não revelou os nomes das companhias.
“Se a situação ficar ruim ou piorar, podemos, sim, avaliar os modelos. Podemos exigir medidas para reduzir os riscos e, em casos extremos e quando necessário, também restringir, retirar de circulação ou até determinar o recolhimento de modelos de IA”, afirmou.
Na quinta-feira, Bruxelas informou que a agência de cibersegurança da UE recebeu acesso aos modelos mais recentes da OpenAI, entre eles o GPT-6-ASTRA. A agência também recebeu acesso ao Mythos 5, o poderoso modelo de IA da concorrente Anthropic, que atualmente passa por testes no órgão.
Entre na conversa da comunidade