- Elon Musk, por meio da xAI, tem incentivado o uso do Grok para obter segunda opinião médica e análise de dados de saúde enviados pelos usuários.
- Nesta semana, o Grok afirmou que não é profissional de saúde nem está em conformidade com a HIPAA, desencorajando o envio de dados sensíveis para aconselhamento médico.
- Pesquisas sobre grandes modelos de linguagem indicam que eles não são confiáveis para diagnósticos consistentes, com queda de precisão ao passar de ambientes de laboratório para conversas com usuários.
- Casos anecdóticos citados incluem um homem na Noruega que, segundo Musk, teve apendicite identificada pelo Grok; uma gestante com pré-eclâmpsia diagnosticada após orientação do chat; e uma mulher que teria tido câncer de tireoide detectado após uso de IA.
- A matéria destaca que, segundo pesquisa da KFF, cerca de um sexto dos adultos usa chatbots de IA para informações médicas pelo menos uma vez por mês.
Elon Musk voltou a defender o uso de IA para diagnósticos médicos, incentivando usuários a enviar dados de saúde ao Grok, o chatbot da xAI, para obter uma segunda opinião. A recomendação ocorreu após relatos de usuários que teriam sido ajudados pela ferramenta.
Nesta semana, porém, o Grok trouxe uma posição contrária à orientação de Musk. O bot afirmou não ter qualificação médica e desaconselhou o compartilhamento de informações sensíveis para aconselhamento clínico.
O Grok explicou que, apesar de poder analisar dados para gerar insights, não é um profissional de saúde nem está sujeito à HIPAA. O comunicado ressalta que o uso para orientação médica não é recomendado.
O que está em jogo
Especialistas apontam limitações de modelos de linguagem ao diagnosticar pacientes. Estudos mostram que a precisão dos bots varia e pode depender de como as informações são apresentadas pelos usuários, muitas vezes levando a respostas conflitantes.
Pesquisas recentes indicam que, em condições reais de conversa, a taxa de acerto diagnóstic o de IA é bem menor do que a observada em ambientes controlados, quando comparada a avaliações humanas simples.
Embora haja relatos positivos
Casos divulgados apontam benefícios ponctuais. Um homem na Noruega afirma que o Grok ajudou a identificar apendicite. Outras histórias mencionam orientações que levaram a ações rápidas em situações críticas.
Estudos e coberturas mostram, no entanto, que resultados igualam ou superam apenas cenários de laboratório. Em ambientes com dados de usuários, a qualidade das recomendações ainda enfrenta dúvidas.
Contexto de uso de IA na saúde
Pesquisadores destacam que muitos brasileiros recorrem a chatbots para informações médicas. Uma pesquisa indica que cerca de uma em seis pessoas utiliza IA para buscar orientações com regularidade mensal.
Musk figura como uma das pessoas mais ricas do mundo, com patrimônio estimado em US$ 847 bilhões, e está envolvido em diversas empresas, incluindo Tesla, SpaceX e xAI.
Notas de origem
A matéria original foi publicada pela Forbes, com cobertura de casos e contextos sobre o uso de IA para aconselhamento médico. Fonte aponta que Musk continua promovendo o uso geral de IA, enquanto a Grok adota cautela em relação a diagnósticos.
Entre na conversa da comunidade