IA medica, i pregiudizi emergono nelle situazioni reali

L’intelligenza artificiale applicata alla medicina potrebbe apparire meno discriminatoria nei test formali, ma rivelare pregiudizi quando viene messa alla prova in situazioni realistiche. È quanto emerge da un nuovo studio pubblicato su Nature Health, che ha analizzato il comportamento di alcuni tra i più diffusi modelli linguistici su larga scala, tra cui ChatGPT, Grok e Claude, rispetto a condizioni come HIV, epatite B e disturbi mentali.

I ricercatori hanno voluto misurare il divario tra l’imparzialità dichiarata dai modelli e le risposte generate in contesti narrativi più vicini alla vita reale. Nella prima fase, i sistemi di IA sono stati sottoposti a questionari standardizzati sullo stigma, già usati su esseri umani, e i risultati sono stati confrontati con quelli di oltre 56.000 persone. In questi test diretti, i modelli hanno mostrato livelli di stigmatizzazione inferiori alla media umana. Tuttavia, nella seconda fase, basata su 51 scenari narrativi aperti e 61.200 decisioni analizzate in inglese e cinese, sono emerse distorsioni più evidenti: cambiando solo la condizione di salute del personaggio, l’IA modificava il modo di rappresentarne affidabilità, pericolosità o competenza.

Quando l’equità “sulla carta” non basta

Il risultato mette in discussione il modo in cui viene spesso valutata l’equità dei sistemi di IA in sanità. Molti controlli funzionano come semplici quiz: al modello vengono poste domande dirette su gruppi o condizioni specifiche e si misura se la risposta contiene affermazioni discriminatorie. Questo metodo, però, rischia di cogliere solo la superficie del problema. Un sistema può dichiararsi neutrale, inclusivo e non stigmatizzante quando risponde a un questionario, ma comportarsi diversamente quando deve completare una storia, formulare un giudizio o prevedere una reazione sociale. In ambito sanitario, questa differenza è particolarmente delicata, perché l’IA viene già utilizzata per screening, programmazione dei consulti, supporto terapeutico e assistenza alle decisioni cliniche. Se il modello associa in modo implicito alcune diagnosi a pericolo, distanza sociale o incompetenza, può contribuire a rafforzare disuguaglianze già presenti nel rapporto tra pazienti e sistema sanitario.

Gli scenari narrativi rivelano le distorsioni nascoste

Per far emergere questi pregiudizi meno visibili, i ricercatori hanno costruito scenari di vita quotidiana in cui tutti gli elementi restavano identici, tranne la condizione di salute del protagonista. Una stessa persona poteva essere descritta come sana oppure affetta da schizofrenia, HIV o epatite B. L’obiettivo era capire se una sola etichetta diagnostica fosse sufficiente a orientare il finale generato dall’IA.

I risultati indicano che questo effetto esiste. Nei questionari standard, i modelli sembravano meno stigmatizzanti degli esseri umani; quando però dovevano completare storie contestuali, tendevano più spesso ad associare HIV e disturbi mentali a pericolo, sospetto o necessità di mantenere le distanze. Altre condizioni, come mal di schiena e ipertensione, venivano invece collegate più frequentemente alla pietà o all’idea che la persona fosse meno competente.

Anche la lingua ha avuto un ruolo: le richieste formulate in cinese hanno generato risposte più coerenti con schemi di stigma rispetto a quelle in inglese, soprattutto negli scenari legati alla salute mentale. Un dato interessante riguarda il ragionamento passo dopo passo: quando i modelli venivano invitati a esplicitare il percorso logico prima di rispondere, la distorsione diminuiva in modo significativo. Questo suggerisce che non basta verificare cosa un’IA afferma in astratto, ma occorre osservarne il comportamento operativo in contesti più complessi, dove i pregiudizi possono emergere in forma indiretta.

Come ridurre il rischio di IA stigmatizzante

Lo studio indica anche alcune possibili strategie per ridurre i pregiudizi nei modelli utilizzati in ambito medico. I ricercatori ne hanno individuate nove, tra cui l’individualizzazione, cioè l’invito a considerare la persona nella sua complessità invece di definirla attraverso la diagnosi, e il filtraggio della rilevanza, che consiste nell’istruire l’IA a ignorare lo stato di salute quando non è pertinente al compito richiesto. Questi accorgimenti possono aiutare a limitare risposte stigmatizzanti, soprattutto nei contesti in cui i sistemi vengono usati a supporto di comunicazione, triage, orientamento o assistenza ai pazienti. Tuttavia, il punto centrale riguarda le aziende che sviluppano strumenti di IA per la sanità: prima del rilascio, i modelli dovrebbero essere sottoposti ad audit specifici sui bias, non solo tramite questionari astratti, ma anche attraverso compiti di giudizio contestuale.

Iscriviti alla Newsletter di Sanità Informazione per rimanere sempre aggiornato