- A coalizão de especialistas expressa preocupação com o lançamento do ChatGPT Health na Austrália, após casos envolvendo uso indevido de informações de saúde.
- Um homem de 60 anos, sem histórico mental, apresentou alucinações no hospital, associadas ao consumo diário de brometo de sódio que havia comprado pela internet após suposta orientação do ChatGPT Health.
- Há críticas sobre a falta de estudos publicados que testem a segurança do ChatGPT Health, além de dúvidas sobre quais prompts ou fontes podem levar a orientações inadequadas.
- A OpenAI diz ter trabalhado com mais de duzentos médicos de sessenta países para orientar o serviço, garantindo espaço separado de chats comuns e proteção de privacidade.
- A influencer pública Elizabeth Deveny, presidente do Consumers Health Forum of Australia, alerta para custos médicos elevados e demora para atendimento, defendendo regras claras, transparência e educação do consumidor antes de uma adoção mais ampla.
A Austrália se prepara para a estreia do ChatGPT Health, plataforma de aconselhamento de saúde da OpenAI. O lançamento tem levantado questionamentos entre especialistas sobre segurança, regulação e educação do consumidor.
Um caso clínico recente, citado por especialistas, ilustra os riscos potenciais de orientações digitais em saúde. Um homem de 60 anos apresentou-se a um pronto-socorro alegando envenenamento pelo vizinho. Após 24 horas, visões e tentativas de fuga ocorreram, levando médicos a identificar consumo diário de brometo de sódio como possível causa.
A droga pode causar bromismo, com sintomas como alucinações e coordenação prejudicada. O homem adquiriu o composto pela internet após receber orientação de uma ferramenta de IA de que poderia substituir o sal comum, destacando a importância de avaliações de segurança.
Iniciativa e controvérsias
A launching de ChatGPT Health envolve a HealthBench, método que utiliza médicos para testar a qualidade das respostas de IA em questões de saúde. Questiona-se se a metodologia completa e os resultados são divulgados por meio de estudos independentes revisados por pares.
Um porta-voz da OpenAI afirmou que a empresa trabalha com mais de 200 médicos de 60 países para orientar e aperfeiçoar os modelos. Segundo a companhia, o ChatGPT Health funciona em um espaço dedicado, com proteção de privacidade e dados criptografados.
Impacto e perspectivas
A presidente do Consumers Health Forum of Australia, Dr. Elizabeth Deveny, apontou custos elevados e longas filas como fatores que estimulam o uso de IA. Ela vê utilidade em manejo de doenças crônicas e na disseminação de informações em diferentes idiomas, mas ressalta riscos de interpretação indevida.
Deveny enfatizou a necessidade de balizamentos regulatórios, transparência e educação do consumidor para decisões informadas sobre o uso de IA na saúde. Ela alertou para a dinâmica entre grandes empresas de tecnologia e governos, destacando riscos de desigualdade no acesso a benefícios.
Entre na conversa da comunidade