SALUTE NEWS: I RISCHI DELL’IA SULLA SALUTE

L’INTELLIGENZA ARTIFICIALE PER LA SALUTE: ATTENZIONE AI RISCHI CHE SI CORRONO

Le intelligenze artificiali basate su modelli linguistici di grandi dimensioni (LLM), come i chatbot più diffusi oggi, stanno diventando sempre più accessibili e utilizzate anche per chiedere consigli di salute. Tuttavia i loro limiti sono ancora molto evidenti e preoccupanti.

In un test condotto su cinque software di IA, solo poco più della metà delle risposte fornite si è rivelata corretta. Ma il problema non è solo la precisione: tra le risposte sbagliate, una su cinque è risultata addirittura pericolosa. Il motivo principale di questa inaffidabilità risiede nel modo in cui questi sistemi funzionano. Le IA non sono progettate per distinguere tra fonti autorevoli e contenuti di dubbia qualità: possono attingere tanto da pubblicazioni scientifiche di istituzioni come la Harvard Medical School o la Cleveland Clinic, quanto da discussioni su forum o social media, senza filtri sulla validità delle informazioni. Inoltre, a differenza di un medico umano, che affronta ogni caso con un approccio razionale e iterativo — raccogliendo sintomi, valutando esami e aggiornando continuamente le ipotesi diagnostiche — le IA tendono a “convergere” troppo presto su una singola risposta, senza considerare l’incertezza che invece caratterizza la pratica clinica reale.

Un altro aspetto critico è la percezione di credibilità che le risposte delle IA trasmettono. Nonostante i loro errori, queste piattaforme spesso rispondono con un tono autorevole, dando agli utenti una falsa sicurezza. In un esperimento, Meta AI si è rifiutata di rispondere solo due volte su 250 domande, il che suggerisce che, nella maggior parte dei casi, l’IA fornisce una risposta — anche quando non dovrebbe. Questo fenomeno è ancora più rilevante se si considera che una persona su quattro si rivolge ai chatbot per informazioni sanitarie, e che la tendenza è più marcata tra i giovani. Peggio ancora, il 14% delle persone che hanno ricevuto consigli dall’IA non si è poi rivolta al medico che avrebbe consultato normalmente, il che espone a rischi concreti per la salute.

Le IA attuali non sono strumenti affidabili per la salute. Non sono progettate per questo scopo, non valutano la qualità delle fonti e non gestiscono l’incertezza come farebbe un medico. Nonostante ciò, la loro facilità d’uso e la fiducia ingiustificata che suscitano le rendono potenzialmente pericolose. Il rischio è che le persone si affidino a risposte inaccurate o dannose, senza rendersene conto, semplicemente perché l’IA “sembra” autorevole. Per ora, insomma, i chatbot restano utili forse per curiosità o informazioni generiche, ma non sostituiscono — e non dovrebbero sostituire — il parere di un professionista sanitario, soprattutto in ambiti delicati come la salute.