- O governo do Reino Unido anunciará mudanças para responsabilizar criadores de IA que gerem conteúdo ilegal que coloque crianças em risco, com multas altas ou possível bloqueio dos serviços no país.
- As alterações visam incluir chatbots de IA no Online Safety Act, fechando brecha que permitia conteúdos que incentivam autolesão ou abuso infantil; sanções podem chegar a dez por cento da receita global e pode haver corte de conexão ao país.
- A ação é impulsionada pelo caso do Grok, ferramenta da xAI que gerou controvérsia por imagens sexualizadas; a X interrompeu a criação de imagens de pessoas reais no Reino Unido.
- O governo também planeja acelerar restrições ao uso de redes sociais por menores de idade, após consulta pública que pode trazer mudanças ainda neste verão.
- A Ofcom reconheceu limitações de poder para agir contra Grok; a alteração para submeter IA a o Online Safety Act pode ocorrer em semanas.
O governo do Reino Unido planeja endurecer as regras para chatbots de IA que apresentem risco a crianças. A mudança será anunciada por Keir Starmer, líder do Partido Trabalhista, nesta segunda-feira. A medida prevê multas elevadas ou bloqueio de serviços no país.
O esforço nasce após o episódio envolvendo a ferramenta Grok, criada pelo grupo de Elon Musk, que gerou indignação pública ao exibir imagens sexualizadas de pessoas reais. Autoridades avaliam fechar brechas legais para impedir conteúdos ilegais criados por IA.
A proposta exige que provedores de chatbots obedeçam aos deveres de conteúdo ilegal previstos na Online Safety Act, sob pena de sanções legais. A mudança pode ser aprovada ainda neste verão, conforme avaliação de MPs.
Mudanças em andamento e contexto regulatório
Ofcom reconhece que faltam poderes para agir contra Grok, já que conteúdos gerados pela IA sem busca na internet não entram na lei atual, a menos que haja pornografia. A atualização pode ocorrer em semanas.
A expectativa é fechar a chamada brecha que permite uso de IA para criar conteúdo que incentive autoagressão ou abuso infantil, além de material de abuso sexual infantil, sem sanção clara. O objetivo é proteção infantil.
Autoridades mencionam que a tecnologia avança rapidamente e a lei precisa acompanhar. Para Starmer, a ação contra Grok envia mensagem de que plataformas não têm passagem livre. Novos instrumentos devem seguir.
Reação e impactos
O Downgrade regulatório pode gerar multas de até 10% da receita global, com possibilidade de bloqueio de conexão no Reino Unido. Provedores devem também evitar usos inadequados quando IA atua como motor de busca ou plataforma de mensagens.
Organizações de defesa infantil destacam que jovens já procuram ajuda online, com relatos de informações incorretas ou riscos de conteúdo nocivo. O secretário de tecnologia enfatiza atuação rápida para proteção de famílias.
OpenAI e xAI foram contatadas para comentários. A OpenAI já trabalha em controles parentais e tecnologia de previsão de idade para restringir conteúdo sensível. Governo também estuda obrigar plataformas a bloquear envios de nudez infantil.
Considerações futuras
A consulta pública sobre restrições adicionais a uso de redes sociais por menores pode trazer mudanças rápidas, incluindo limites para rolagem infinita. Medidas visam reduzir danos associados à exposição online de menores.
Entre na conversa da comunidade