Confiança na IA Generativa para o Consumo de Informação em Saúde e o Efeito da Dependência Aprendida: Estudo Experimental Controlado Randomizado

Ensaio clínico randomizadoNível 2 · Nova evidênciaJournal of medical Internet research16 set 20260 citações

O que aconteceu

A IA generativa (GenAI) é cada vez mais utilizada pelos consumidores de informação em saúde para interpretar conteúdos médicos e apoiar a tomada de decisões. Embora estes sistemas forneçam informações acessíveis e oportunas, também podem produzir saídas imprecisas ou enganosas. O uso efetivo da GenAI, portanto, depende da capacidade dos usuários de calibrar a confiança com base na precisão da informação. No entanto, pouco se sabe sobre como a dependência aprendida da GenAI (a confiança habitual em sistemas de IA para resolver problemas) influencia a calibração da confiança em contextos de informação em saúde. Este estudo analisa como a dependência aprendida da GenAI afeta a calibração da confiança dos consumidores em informações geradas por IA, e se as pistas de atenção visual baseadas em texto (TVCs), como destacar informações críticas em texto, mitigar a dependência excessiva em saídas incorretas. Foram realizados 2 experimentos randomizados controlados: o primeiro envolveu 338 estudantes universitários, e o segundo replicou o estudo com 563 participantes da Amazon Mechanical Turk. Ambos os estudos utilizaram um desenho de 2 × 2 entre participantes, manipulando (1) precisão de informação (correta vs incorreta) e (2) TVCs (esboço de texto vs nenhum destaque de texto). Os participantes avaliaram as informações de saúde geradas por IA apresentadas ao lado do texto fonte. A confiança foi medida por meio de uma escala multiitens e a dependência aprendida da GenAI foi avaliada por meio de uma medida auto-referida validada. Modelos de regressão linear foram utilizados para examinar efeitos principais e de interação.

O que encontraram

Em ambos os experimentos, a acurácia da informação teve um efeito positivo significativo na confiança, com os participantes expressando maior confiança em informações corretas do que em informações geradas por IA incorretas (experimento 1: B=2,107, IC 95% 1,337-2,878; P<,001 e experimento 2: B=0,203, IC 95% 0,115-0,290; P<,001). A dependência aprendida esteve positivamente associada à confiança em ambos os experimentos (experimento 1: B=0,277, IC 95% 0,033-0,521; P=0,03 e experimento 2: B=0,822, IC 95% 0,715-0,929; P<,001), de modo que usuários com maior dependência confiaram em resultados de IA mais globais. Criticamente, a interação entre precisão da informação e dependência aprendida foi negativa e significativa em ambos os experimentos (experimento 1: B=-0,399, IC 95% -0,695 a -0,104; P<,001 e experimento 2: B=-0,459, IC 95% -0,577 a -0,340; P<,001), indicando que maior dependência reduz a sensibilidade dos usuários à inexatidão da informação. O destaque do texto não afetou significativamente a confiança em nenhum dos experimentos, nem modificou a relação entre dependência aprendida e confiança.

Por que isso importa

Este estudo demonstra que, embora os usuários geralmente confiem em informações de saúde geradas por IA precisas mais do que informações imprecisas, maior dependência aprendida autorreferida está associada a uma calibração de confiança mais fraca, prevendo maior suscetibilidade a saídas incorretas. Os TVCs, como o destaque de texto, são insuficientes para mitigar esse efeito. Esses achados evidenciam a necessidade de intervenções de desenho mais efetivas para subsidiar a avaliação crítica e reduzir a dependência excessiva da GenAI em ambientes de informação em saúde.

Tradução automática do resumo original, publicado em Journal of medical Internet research sob licença CC BY. Os números são conferidos contra o original; siglas e termos técnicos podem variar.