Uma nova forma de ciberataque foi revelada: sons impercept\u00edveis em podcasts e v\u00eddeos que passam instru\u00e7\u00f5es para modelos de IA, levando assistentes a agir sem percep\u00e7\u00e3o do usu\u00e1rio.<\/p>\n
Equipe de pesquisa da China e de Singapura demonstrou que \u00e9 poss\u00edvel criar sinais sonoros maliciosos que sequestram modelos de IA de voz. Os testes mostraram comandos executados mesmo sem contexto claro.<\/p>\n
Em declara\u00e7\u00f5es \u00e0 IEEE Spectrum, o pesquisador-chefe afirmou que basta meia hora para treinar o sinal, que funciona independentemente do que o usu\u00e1rio disser. O m\u00e9todo n\u00e3o depende de vozes identific\u00e1veis.<\/p>\n
Os pesquisadores testaram 13 modelos de IA, entre eles servi\u00e7os da Microsoft e da Mistral. Em cen\u00e1rios controlados, os modelos realizaram buscas sens\u00edveis, enviaram e-mails com dados do usu\u00e1rio e baixaram arquivos.<\/p>\n
A taxa de sucesso ficou entre 79% e 96%. Os LALMs (modelos de \u00e1udio-linguagem) apresentam uma vulnerabilidade cr\u00edtica: por receberem instru\u00e7\u00f5es em \u00e1udio, podem ser induzidos por sons manipulados.<\/p>\n
Segundo os autores, os sons maliciosos n\u00e3o se assemelham a vozes com ordens diretas, o que dificulta a detec\u00e7\u00e3o por usu\u00e1rios e por sistemas de seguran\u00e7a. A pesquisa alerta para riscos crescentes em ambientes dom\u00e9sticos e corporativos.<\/p>\n
N\u00e3o houve detalhamento de medidas de mitiga\u00e7\u00e3o no material divulgado. As equipes destacam a necessidade de padr\u00f5es de defesa que verifiquem comandos recebidos por dispositivos com IA de voz.<\/p>\n
Desdobramentos indicam que dispositivos com assistentes de IA podem exigir valida\u00e7\u00e3o de comandos, filtros de \u00e1udio e auditoria de a\u00e7\u00f5es para evitar vazamento de dados ou executa\u00e7\u00e3o indevida de tarefas.<\/p>\n","protected":false},"excerpt":{"rendered":"