AI tools podem gerar erros graves em registros de trabalho social, mostra estudo<\/p>\n
Ferramenta de transcri\u00e7\u00e3o usada por governos locais na Inglaterra e na Esc\u00f3cia apresentou falhas, incluindo afirma\u00e7\u00f5es falsas de idea\u00e7\u00e3o suicida e trechos sem sentido. Frente de trabalhadores da linha de frente descreve casos de \u201cgibberish\u201d e distor\u00e7\u00f5es em relatos.<\/p>\n
O estudo de oito meses da Ada Lovelace Institute, divulgado ao Guardian, envolveu 17 conselhos. A pesquisa aponta que algumas mensagens geradas por IA podem representar de forma inadequada as experi\u00eancias das pessoas sob cuidado.<\/p>\n
Relatos de assistentes sociais revelam que uma s\u00edntese criada por IA indicou idea\u00e7\u00e3o suicida, ainda que o cliente n\u00e3o tenha feito tal afirma\u00e7\u00e3o. Em outra situa\u00e7\u00e3o, a IA ter\u00eda citado fatos sem rela\u00e7\u00e3o com a conversa, confundindo hist\u00f3rico familiar.<\/p>\n
Imprecis\u00f5es tamb\u00e9m aparecem em transcri\u00e7\u00f5es com sotaques regionais, com trechos que parecem \u201cgibberish\u201d. Um profissional comentou que o erro virou piada no escrit\u00f3rio. Em alguns casos, o registro pode distorcer a percep\u00e7\u00e3o da situa\u00e7\u00e3o.<\/p>\n
A ado\u00e7\u00e3o de ferramentas como Magic Notes, dispon\u00edvel para custos que variam entre \u00a31,50 e \u00a35 por hora, j\u00e1 alcan\u00e7a diversas cidades, de Croydon a Redcar and Cleveland. A maioria dos trabalhadores entrevistados usa Magic Notes ou o Copilot da Microsoft.<\/p>\n
A pesquisa aponta ganhos de tempo observ\u00e1veis e maior foco nas rela\u00e7\u00f5es com usu\u00e1rios de servi\u00e7o. Em alguns casos, a IA ajudou a melhorar a qualidade das informa\u00e7\u00f5es registradas.<\/p>\n
Entretanto, surgem problemas quando a IA redige documentos com tom mais centrado na pessoa, incluindo trechos que n\u00e3o foram ditos, ou quando a ferramenta cruza o limite entre avalia\u00e7\u00e3o do profissional e avalia\u00e7\u00e3o da IA. Erros podem influenciar decis\u00f5es sobre cuidados de crian\u00e7as.<\/p>\n
Profissionais denunciam que a verifica\u00e7\u00e3o humana \u00e9 insuficiente. Disciplinas j\u00e1 foram abertas na \u00e1rea pelo n\u00e3o checamento adequado de sa\u00eddas de notetakers de IA, segundo a British Association of Social Workers (BASW). A BASW pede diretrizes claras para uso de IA na atua\u00e7\u00e3o.<\/p>\n
Especialistas destacam que o uso de IA envolve riscos novos, como vieses em resumos e falhas de transcri\u00e7\u00e3o. A Ada Lovelace ressalta que os riscos nem sempre s\u00e3o avaliados ou mitigados, deixando trabalhadores expostos.<\/p>\n
Alguns representantes de fornecedores defendem que as ferramentas geram rascunhos e n\u00e3o registros finais. A Beam, gestora do Magic Notes, afirma que a primeira vers\u00e3o precisa ser revisada e que a IA pode aliviar a sobrecarga em servi\u00e7os p\u00fablicos.<\/p>\n
A \u00cdndia e o Reino Unido buscaram respostas oficiais, com autoridades e grandes empresas sendo questionadas sobre padr\u00f5es de uso, treinamento e verifica\u00e7\u00e3o de IA em servi\u00e7os sociais. O governo do Reino Unido e a Microsoft foram contactados para coment\u00e1rios.<\/p>\n","protected":false},"excerpt":{"rendered":"