Lo scorso gennaio, con il lancio di ChatGPT Health, OpenAI ha reso pubblica una cifra ricavata dall’analisi anonimizzata delle proprie conversazioni: ogni settimana, oltre 230 milioni di persone in tutto il mondo rivolgono al chatbot domande su salute e benessere. Un dato che descrive una pratica consolidata, diffusa trasversalmente per età, livello di istruzione e condizione economica.
Le ragioni di questa diffusione affondano le radici nelle criticità del sistema sanitario contemporaneo: tempi di attesa dilatati per le visite specialistiche, costi elevati delle prestazioni private, difficoltà oggettiva nell’interpretare referti e documentazione clinica redatta in linguaggio tecnico.
In questo contesto, uno strumento disponibile in qualsiasi momento, capace di rispondere con un linguaggio chiaro e con apparente completezza, intercetta un bisogno reale di orientamento che il sistema, in molti casi, non riesce a soddisfare nei tempi e nei modi che i pazienti richiedono.
L’impatto sul rapporto tra i medici e i pazienti
Questo cambiamento sta determinando effetti diretti anche nella pratica medica quotidiana. Il professionista sanitario si trova con crescente frequenza di fronte a pazienti che hanno già elaborato, prima della visita, un’ipotesi diagnostica.
Gestire questa dinamica richiede al clinico competenze che esulano dalla formazione tradizionale: valutare criticamente le informazioni pre-elaborate dal paziente, correggere gli errori senza compromettere il rapporto di fiducia, restituire un quadro clinico fondato su una valutazione reale che spesso contraddice quella prodotta dallo strumento digitale. Si tratta di una complessità relazionale che si aggiunge a quella diagnostica e che trova sempre meno spazio nei tempi contingentati di una visita ambulatoriale.
Vi è poi una dinamica più sottile, che riguarda la ricerca del secondo parere. Un numero crescente di pazienti, dopo aver ricevuto una diagnosi o una prescrizione, interpella il chatbot per verificarne la coerenza con quanto appreso online. Quando le risposte divergono - e la probabilità che divergano è tutt’altro che trascurabile, come dimostrano i dati della ricerca – si genera spesso una sfiducia immotivata verso il professionista, difficile da ricomporre nel breve tempo di una visita successiva.
I rischi di rivolgersi ai chatbot
Il rapporto medico-paziente attualmente rischia quindi di essere minato da convinzioni generate dall’acquisizione di informazioni che, è bene ricordarlo, il più delle volte sono parziali, errate o equivocabili senza il giusto bagaglio di competenze.
Questo perché ChatGPT è un modello linguistico general purpose che produce testo statisticamente plausibile sulla base dei dati su cui è stato addestrato, generando risposte coerenti con il registro dell’utente e tende a confermare le ipotesi implicite nelle domande ricevute. OpenAI stessa dichiara nei propri termini di servizio che lo strumento non è concepito per la diagnosi o il trattamento di alcuna condizione di salute.
Anche i dati della ricerca scientifica confermano i limiti di questi strumenti quando applicati al contesto clinico. Uno studio dell’Humanitas University, pubblicato sull’European Journal of Pathology, ha sottoposto ChatGPT a 200 quesiti clinici strutturati, calibrati sulle linee guida diagnostiche correnti e validati da patologi esperti: le risposte davvero corrette ammontavano al 32%, con il 17,8% delle fonti bibliografiche citate risultato completamente inesistente.
Gli errori tendevano inoltre a concentrarsi in scenari diversi a seconda del caso, confermando che, pur potendo offrire un supporto in una parte delle risposte, ChatGPT non è affidabile per l’uso diagnostico routinario.
I risultati più interessanti per quello che riguarda l’intelligenza artificiale in medicina si stanno registrando grazie a sistemi progettati per analizzare dati clinici strutturati, software utilizzati nella diagnostica per immagini, strumenti di supporto decisionale basati su linee guida e modelli sviluppati su cartelle cliniche reali. In questi ambiti, l’accuratezza delle risposte viene misurata e verificata, e questo segna una differenza sostanziale rispetto agli strumenti generalisti.
Il quadro normativo e i suoi limiti
Il ricorso costante a ChatGPT per chiedere diagnosi è anche determinato dal fatto non è stata ancora prodotta una risposta normativa organica al fenomeno.
In Italia, le principali società scientifiche e l’AIFA non hanno ancora definito indicazioni specifiche sull’utilizzo dei chatbot generativi da parte dei pazienti, lasciando un vuoto operativo nella gestione di queste pratiche.
A livello europeo, il quadro normativo è più avanzato, ma si muove su un piano diverso. L’AI Act ha infatti introdotto una classificazione dei sistemi di intelligenza artificiale basata sul rischio e prevede requisiti stringenti per quelli utilizzati in ambito sanitario, come obblighi di validazione, trasparenza e supervisione umana. Questo impianto riguarda però lo sviluppo e l’impiego di strumenti progettati per uso clinico, non l’utilizzo quotidiano di modelli generalisti da parte degli utenti.
Il risultato è una distanza tra le regole e i comportamenti reali, con milioni di persone utilizzano ogni settimana strumenti non progettati per fornire indicazioni mediche, mentre le norme si concentrano su sistemi destinati a contesti professionali e regolati. In questo spazio si colloca una zona grigia in cui mancano riferimenti chiari, sia per i pazienti sia per i professionisti.
In assenza di riferimenti chiari e condivisi, la distanza tra ciò che la tecnologia consente e ciò che il sistema sanitario è in grado di governare rischia di allargarsi proprio nel punto più sensibile: quello in cui le informazioni diventano decisioni sulla salute.