Empresas de redes sociais estão pagando quantias enormes e enfrentando milhares de processos judiciais por alegações de que prejudicaram usuários jovens, enquanto governos ao redor do mundo trabalham para restringir o acesso de menores às suas plataformas.
Em meio a esse cenário, o ex-vice-presidente de confiança e segurança do Google, Tom Siegel, alertou que a inteligência artificial pode causar danos às crianças ainda maiores que os associados às redes.
Em entrevista à Reuters, Siegel afirmou que há evidências de impactos negativos da IA sobre crianças e outros grupos vulneráveis. Para ele, as empresas não conseguirão resolver os problemas de segurança sozinhas e precisam de ajuda externa.
“Não estou dizendo que tudo o que a IA faz é ruim, não sou uma dessas pessoas que preveem o apocalipse, mas há evidências confiáveis de que nem tudo o que a IA faz tem um impacto positivo líquido sobre as pessoas”, afirmou.
Siegel defendeu que as empresas desacelerem o desenvolvimento e a implementação de novos recursos enquanto os efeitos sobre crianças ainda não são suficientemente compreendidos. Ele também avaliou que as atuais medidas de proteção são frágeis ou pouco compreendidas.
O especialista citou riscos que vão de suicídio e psicose à sobrecarga cognitiva, que pode ocorrer quando há dependência excessiva da IA para responder perguntas e realizar tarefas.
+ Três em cada quatro americanos cobram mais segurança das empresas de IA
Siegel deixou o Google em 2019 e, antes de assumir um novo cargo na Common Sense Media, foi cofundador da TrustLab, empresa voltada a ferramentas de segurança digital.
Nesta terça-feira (22), Siegel anunciou que se juntou à Common Sense Media, organização sem fins lucrativos voltada à proteção de crianças na internet. Fundada em 2003, a entidade lançou em maio o Youth AI Safety Institute, dedicado a pesquisar os impactos da inteligência artificial sobre crianças, do qual Siegel será o primeiro diretor-executivo. Anthropic e OpenAI Foundation estão entre os apoiadores do instituto.
Siegel afirmou que pretende desenvolver padrões para responsabilizar empresas de IA, em parceria com as próprias companhias e grupos independentes.
Questionado sobre os comentários de Siegel, um porta-voz do Google disse que os pais têm opções para desativar completamente o acesso de seus filhos ao mecanismo de busca.
+ Trump afirma que vai nomear “czar da Inteligência Artificial”
* Com informações da agência de Notícias Reuters.
Entre na conversa da comunidade