Coreia do Sul: leis de IA pioneiras enfrentam resistência

Coreia do Sul lançou leis de IA consideradas as mais abrangentes do mundo, buscando servir de modelo, mas já enfrentam resistência de startups e sociedade civil.
As regras obrigam empresas de IA a inserir marcas d’água digitais invisíveis para saídas artificiais comuns e rótulos visíveis para deepfakes realistas.
Modelos de IA de alto impacto, usados em diagnóstico médico, recrutamento e concessão de crédito, exigirão avaliações de risco e documentação de como as decisões são tomadas; se houver decisão final humana, o sistema pode não entrar nesse grupo.
Empresas que violarem as regras podem receber multas de até trinta milhões de won; há um período de tolerância de pelo menos um ano antes das sanções.
Críticos apontam que o texto protege pouco os cidadãos, enquanto há questionamentos sobre desequilíbrio competitivo e a legislação permanecer ambígua quanto a definições de IA de alto impacto.

South Korea lançou o que é promovido como o conjunto de leis de IA mais abrangente do mundo, para orientar o uso de sistemas de inteligência artificial. A legislação entrou em vigor na semana passada, com objetivo de estabelecer padrões de transparência, segurança e responsabilidade. O governo afirma que a medida visa favorecer a inovação, sem frear o desenvolvimento tecnológico.

Entre as exigências, empresas que prestam serviços de IA deverão inserir marcas digitais invisíveis em saídas artificiais, como desenhos ou obras de arte, e etiquetas visíveis para deepfakes realistas. Saídas de alto impacto, usadas em diagnóstico médico, recrutamento ou concessão de crédito, exigirãão avaliações de risco e documentação de processos decisórios. Se houver decisão humana final, o sistema pode não se enquadrar no regime.

Modelos extremamente poderosos terão que apresentar relatórios de segurança, embora o limiar seja tão alto que autoridades reconhecem que nenhum modelo global o atinge atualmente. Penalidades por violação vão até 30 milhões de wones (aprox. 15 mil libras). O governo prevê um período de carência de pelo menos um ano antes da aplicação de multas.

A lei é apresentada como um marco global, com foco em promover o setor de IA na Coreia do Sul, que busca atuar entre EUA e China como uma das três grandes potências da área. Autoridades reiteram que a proposta é 80-90% voltada para estimular a indústria, não restringi-la.

Entretanto, startups locais e grupos da sociedade civil contestam o texto. Uma pesquisa de dezembro, conduzida pela Startup Alliance, aponta que 98% das startups de IA não estavam preparadas para cumprir as regras. Líder da entidade destacou frustração e o sentimento de que há pressão para atuar como pioneira.

Empresas devem autodefinir se seus sistemas se enquadram como IA de alto impacto, processo que é considerado longo e gerando insegurança. Além disso, há críticas sobre competição desigual: empresas sul-coreanas precisam cumprir as regras independentemente do tamanho, enquanto grandes firmas estrangeiras com determinados patamares — como Google e OpenAI — também devem se adequar.

Organizações da sociedade civil afirmam que a legislação oferece proteção limitada a pessoas atingidas por IA. Um grupo de quatro entidades, incluindo Minbyun, observa que a lei protege apenas usuários como hospitais, instituições financeiras e públicas, não indivíduos afetados pelo uso de IA. Há lacunas apontadas quanto a proibição de sistemas de IA e exceções para intervenção humana.

O comitê de direitos humanos da Coreia do Sul criticou o decreto de aplicação por não definir claramente o que é IA de alto impacto, deixando potenciais violadores de direitos em zonas cinzentas. O Ministério de Ciência e ICT afirmou esperar que a lei reduza incertezas legais e proteja o ecossistema doméstico de IA, prometendo atualizar diretrizes conforme necessário.