Pesquisadores do MIT desenvolveram um software inovador que aprimora a precis\u00e3o de algoritmos de classifica\u00e7\u00e3o de texto, utilizados em diversas \u00e1reas, como avalia\u00e7\u00f5es de filmes e chatbots. O novo sistema, liderado por Lei Xu, utiliza exemplos adversariais e uma m\u00e9trica in\u00e9dita para medir a robustez contra ataques de palavras.<\/p>\n
O software, que ser\u00e1 disponibilizado gratuitamente, permite que empresas testem e melhorem seus classificadores. Esses algoritmos s\u00e3o essenciais para garantir que respostas de chatbots, por exemplo, n\u00e3o sejam interpretadas como conselhos financeiros, evitando assim poss\u00edveis responsabilidades legais. A equipe do MIT identificou que pequenas altera\u00e7\u00f5es em palavras podem enganar esses sistemas, levando a classifica\u00e7\u00f5es incorretas.<\/p>\n
A pesquisa revelou que apenas 0,1% das 30 mil palavras<\/strong> no vocabul\u00e1rio do sistema podem causar quase metade das revers\u00f5es de classifica\u00e7\u00e3o. Isso permite que os testes de precis\u00e3o se concentrem em um n\u00famero reduzido de palavras, facilitando a identifica\u00e7\u00e3o de vulnerabilidades. O novo m\u00e9todo de avalia\u00e7\u00e3o, denominado p, mede a resist\u00eancia dos classificadores a ataques de uma \u00fanica palavra.<\/p>\n Al\u00e9m disso, a equipe introduziu duas ferramentas: SP-Attack, que gera senten\u00e7as adversariais para testar classificadores, e SP-Defense, que visa melhorar a robustez dos modelos. Em testes, o novo sistema reduziu a taxa de sucesso de ataques adversariais de 66% para 33,7%<\/strong>, demonstrando sua efic\u00e1cia. Os resultados foram publicados na revista Expert Systems em julho de 2023, destacando a import\u00e2ncia de aprimorar a precis\u00e3o desses algoritmos em contextos cr\u00edticos, como informa\u00e7\u00f5es m\u00e9dicas e financeiras.<\/p>\n","protected":false},"excerpt":{"rendered":"\n