Em uma linha de pesquisa voltada para explicabilidade de IA, cientistas da MIT apresentaram uma abordagem que melhora a precis\u00e3o e a clareza das explica\u00e7\u00f5es fornecidas por modelos de vis\u00e3o computacional.<\/p>\n
O objetivo \u00e9 permitir que usu\u00e1rios avaliem a confiabilidade de previs\u00f5es em \u00e1reas cr\u00edticas, como sa\u00fade e condu\u00e7\u00e3o aut\u00f4noma. A t\u00e9cnica busca revelar quais conceitos internos guiam a decis\u00e3o do modelo.<\/p>\n
A proposta usa um modelo de gargalo de conceitos, mas em vez de depender apenas de conceitos predefinidos por humanos, o m\u00e9todo extrai conhecimentos j\u00e1 aprendidos pelo modelo durante o treinamento. O resultado \u00e9 uma explica\u00e7\u00e3o mais fiel \u00e0 l\u00f3gica do sistema.<\/p>\n
Para isso, um par de modelos de IA trabalha de forma conjunta: um autoencoder esparso identifica as caracter\u00edsticas relevantes, e um modelo multimodal de linguagem descreve esses conceitos em linguagem simples.<\/p>\n
O conjunto de dados \u00e9 anotado pelo modelo multimodal, indicando quais conceitos est\u00e3o presentes em cada imagem. Essa anota\u00e7\u00e3o orienta o treinamento de um m\u00f3dulo de gargalo que passa a usar apenas os conceitos aprendidos.<\/p>\n
Ao limitar o uso a cinco conceitos por previs\u00e3o, o m\u00e9todo reduz a possibilidade de vazamento de informa\u00e7\u00f5es n\u00e3o desejadas e facilita a compreens\u00e3o das explica\u00e7\u00f5es.<\/p>\n
Em testes com tarefas como identifica\u00e7\u00e3o de esp\u00e9cies de aves e detec\u00e7\u00e3o de les\u00f5es cut\u00e2neas, a nova abordagem atingiu maior precis\u00e3o e proporcionou explica\u00e7\u00f5es mais precisas do que CBMs convencionais.<\/p>\n
Os autores destacam que ainda h\u00e1 trade-off entre interpretabilidade e desempenho, observando que modelos black-box continuam a registrar ganhos superiores em alguns casos.<\/p>\n
Entre as perspectivas, h\u00e1 planos para ampliar o conjunto de dados de treinamento com um modelo multimodal maior e para investigar solu\u00e7\u00f5es que previnam o vazamento de conceitos indesejados.<\/p>\n
A pesquisa contou com apoio de universidades, ag\u00eancias italianas de fomento e parcerias da Uni\u00e3o Europeia, al\u00e9m de entidades da ind\u00fastria. O estudo ser\u00e1 apresentado em uma confer\u00eancia internacional de aprendizado de representa\u00e7\u00e3o.<\/p>\n","protected":false},"excerpt":{"rendered":"