Intelligenza artificiale, se smentisce il medico cala la fiducia dei pazienti. Lo studio

L’intelligenza artificiale sta entrando sempre più spesso negli ambulatori, negli ospedali e nei servizi di telemedicina, affiancando i medici nel supporto alle decisioni cliniche. Ma cosa succede quando il “secondo parere” fornito dall’algoritmo non coincide con quello del professionista? La risposta arriva da uno studio pubblicato sull‘International Journal of Human-Computer Studies, secondo cui il disaccordo espresso dall’IA può ridurre significativamente la fiducia dei pazienti nei confronti del medico, mentre il consenso tende a rafforzarla. La ricerca, coordinata da S. Shyam Sundar della Penn State University e da Cheng “Chris” Chen della Oregon State University, ha analizzato come la conferma o la smentita di una valutazione clinica da parte dell’intelligenza artificiale influenzi la percezione della competenza del medico e l’affidabilità attribuita alle sue decisioni.

Come è stato condotto lo studio

Come spiegano gli autori nell’abstract dello studio, i ricercatori hanno coinvolto 135 adulti statunitensi in un esperimento basato su una simulazione di consulenza psicologica. I partecipanti hanno interagito con un medico virtuale, impersonato da un modello linguistico di grandi dimensioni (LLM), durante una seduta di gestione dello stress ispirata ai principi della terapia cognitivo-comportamentale. Al termine della consultazione, il medico suggeriva la terapia cognitivo-comportamentale come trattamento più appropriato e offriva la possibilità di richiedere un secondo parere a un assistente di intelligenza artificiale, chiamato CareBot. In alcuni casi l’IA confermava la valutazione del medico, in altri la contraddiceva. Successivamente i partecipanti compilavano questionari per valutare la fiducia riposta nel professionista, la credibilità della diagnosi e la qualità percepita della consulenza ricevuta.

Quando l’IA concorda aumenta la fiducia

I risultati mostrano che quando l’assistente basato sull’intelligenza artificiale confermava la valutazione del medico, i partecipanti attribuivano maggiore credibilità al professionista e ritenevano più affidabile la diagnosi ricevuta. Al contrario, quando l’algoritmo esprimeva un parere differente, aumentava la percezione di incertezza clinica e diminuiva la fiducia nel medico. Alcuni partecipanti arrivavano persino a ritenere che il professionista fosse stato poco accurato o addirittura “pigro” nella valutazione del caso. “In passato, quando un medico suggeriva un secondo parere, si intendeva consultare un altro medico. Oggi è possibile ottenerlo da un sistema di intelligenza artificiale durante la stessa visita. Volevamo capire come questo avrebbe influenzato la percezione dei pazienti“, spiega S. Shyam Sundar.

L’effetto dipende anche da quanto il medico appare “umano”

Un altro elemento emerso dalla ricerca riguarda il ruolo dell’antropomorfizzazione. L’effetto del consenso o del dissenso dell’intelligenza artificiale risultava infatti particolarmente evidente quando il medico virtuale veniva percepito come sufficientemente umano. Inoltre, il disaccordo dell’algoritmo influenzava soprattutto i partecipanti che consideravano le macchine più precise, oggettive e affidabili degli esseri umani. In questi casi, anche una semplice divergenza di valutazione era sufficiente ad alimentare dubbi sulla correttezza del giudizio clinico.

Oltre la metà dei partecipanti credeva di parlare con una persona

Un dato che ha colpito i ricercatori è che oltre la metà dei partecipanti ha ritenuto che il medico simulato fosse una persona reale. “Questo dimostra quanto questi sistemi siano ormai capaci di riprodurre il comportamento professionale di un medico almeno dal punto di vista della conversazione – osserva Cheng “Chris” Chen. -. Nella telemedicina e nei servizi sanitari digitali questo potrebbe creare nuove criticità, perché i pazienti potrebbero non distinguere chiaramente se stanno interagendo con un medico o con un sistema di intelligenza artificiale”.

Il dissenso dell’IA va spiegato, non nascosto

Secondo gli autori, il problema non è evitare il confronto con l’intelligenza artificiale, ma gestirlo in modo trasparente. Il medico, ad esempio, potrebbe spiegare che uno degli strumenti utilizzati ha evidenziato aspetti che meritano ulteriori approfondimenti, coinvolgendo il paziente nel ragionamento clinico invece di presentare il disaccordo come un errore. “Richiamare esplicitamente l’attenzione sul fatto che esista un disaccordo e mostrare di affrontarlo attivamente riduce la percezione di scarsa diligenza – conclude Sundar – Se il medico spiega anche le possibili ragioni della diversa valutazione dell’algoritmo, ad esempio ricordando che il sistema è stato addestrato su popolazioni differenti, può trasmettere maggiore competenza e ridurre il senso di incertezza”. Secondo gli autori, comprendere queste dinamiche sarà sempre più importante con la progressiva integrazione dell’intelligenza artificiale nella pratica clinica e nella telemedicina, dove il rapporto di fiducia tra medico e paziente rappresenta un elemento essenziale per la qualità delle cure.

Iscriviti alla Newsletter di Sanità Informazione per rimanere sempre aggiornato