Non affidarti all'intelligenza artificiale per giudicare da solo i problemi di salute e legali: prima di andare dal medico, di fare causa o di spendere molto, controlla sul testo originale la fonte che ti ha indicato

Costo

Non costa nulla. Ogni controllo richiede da qualche minuto a mezz'ora. Chiedi all'IA di scrivere la norma, la linea guida o l'articolo scientifico su cui si basa, apri tu stesso il testo originale e trova quella frase. L'abitudine da cambiare è questa: non fare ciò che ti dice solo perché lo dice con sicurezza.

Cosa ci guadagni

Cominciamo dalla salute. Nel 2026 la rivista Nature Medicine ha pubblicato uno studio randomizzato, con 1.298 cittadini britannici, la cui procedura era stata registrata in anticipo. Ognuno riceveva due casi clinici costruiti appositamente e doveva capire quale malattia fosse e se andare al pronto soccorso o restare a casa. Una parte usava un chatbot IA (GPT-4o, Llama 3, Command R+). Il gruppo di controllo usava i propri metodi abituali, per lo più la ricerca su internet o il sito del Servizio sanitario nazionale britannico (NHS). Se si dava all'IA il caso clinico completo, riconosceva la malattia pertinente nel 94,9% dei casi e nel 56,3% indicava correttamente dove andare. Con la stessa IA usata dalle persone comuni, la malattia pertinente veniva riconosciuta in meno del 34,5% dei casi e la destinazione corretta in meno del 44,2%. Il gruppo di controllo aveva 1,76 volte più probabilità di riconoscere la malattia rispetto a chi usava l'IA (IC 95% 1,45–2,13). Riconoscere una malattia grave con segnali di allarme aveva 1,57 volte più probabilità (1,28–1,92). Sulla scelta della destinazione, i due gruppi erano simili. Gli autori hanno esaminato le conversazioni: il problema era su due fronti. Da una parte, l'utente non descriveva tutti i sintomi; dall'altra, l'IA menzionava la malattia giusta ma l'utente non la considerava. Passiamo alla legge. Nel 2024 un gruppo di ricerca statunitense ha testato modelli pubblici come ChatGPT 4 su sentenze di corti federali statunitensi. Il 58% delle risposte di ChatGPT 4 conteneva invenzioni; per Llama 2 la percentuale saliva all'88%. Le invenzioni sono contenuti in contrasto con i fatti giuridici; l'articolo le chiama «allucinazioni». Il modello non distingue da sé ciò che è inventato. Spesso, quando la domanda contiene una premessa giuridica sbagliata, la accetta senza discutere. Nel 2025 lo stesso gruppo ha testato gli strumenti di IA legale professionali usati dagli avvocati. Questi strumenti dichiarano di non inventare, ma nella realtà il 17%-33% delle risposte conteneva invenzioni. Sembra conveniente perché l'IA è sempre disponibile, non costa nulla, e parla con la sicurezza di un medico o di un avvocato.

Note

Controversia. Uno studio del 2023 ha preso 195 domande di pazienti da un forum statunitense, e personale sanitario, senza sapere da dove venissero, ha valutato le risposte. Il 78,6% dei giudizi ha ritenuto che ChatGPT rispondesse meglio dei medici. Ma il confronto riguardava quanto la risposta fosse ben scritta, non se la persona avesse poi giudicato bene. Lo studio sulla salute usava modelli del 2024, quelli nuovi possono essere più forti. Lo stesso studio ha però mostrato che il risultato dell'IA in un test da sola non prevede quanto le persone comuni ne traggano beneficio. Perché l'IA inventa, lo hanno spiegato alcuni ricercatori di OpenAI nel 2025 in un articolo non ancora sottoposto a revisione tra pari: i metodi di addestramento e valutazione premiano l'indovinare una risposta, mentre rispondere «non lo so» non dà punti, quindi il modello risponde con sicurezza anche quando non è sicuro. Per verificare, chiedi all'IA il nome della norma e il numero dell'articolo, il titolo della linea guida o dell'articolo scientifico; poi cerca il testo originale sul sito ufficiale e trova quella frase. Se non lo trovi, considera che l'IA non l'ha mai detto. Quando fai una domanda, non scrivere la tua conclusione: chiedi «come prevede la legge questa situazione», non «in questo caso ho già vinto?». Segnali come bocca storta, debolezza da un lato del corpo o dolore oppressivo al petto non vanno chiesti all'IA: chiama subito il 120 (numero di emergenza medica in Cina), vedi §13.3 (bocca storta e braccio di un lato debole) e §13.7 (dolore oppressivo al petto). Chi non ha i soldi per un avvocato, vedi §7.3 (richiesta di assistenza legale gratuita). La valutazione è bassa perché l'effetto misurato è un indicatore intermedio, cioè il riconoscimento della malattia, e non c'è un numero di decessi evitati. Il beneficiario sei tu e la tua famiglia.

Livello delle prove

A : Numeri precisi da meta-analisi, grandi studi di coorte o studi randomizzati; per leggi e politiche, il testo ufficiale.

Fonti

1. Bean AM, Payne RE, Parsons G, et al. (2026). Reliability of LLMs as medical assistants for the general public: a randomized preregistered study. Nature Medicine, 32(2), 609–615. https://doi.org/10.1038/s41591-025-04074-y
2. Dahl M, Magesh V, Suzgun M, Ho DE (2024). Large Legal Fictions: Profiling Legal Hallucinations in Large Language Models. Journal of Legal Analysis, 16(1), 64–93. https://doi.org/10.1093/jla/laae003
3. Magesh V, Surani F, Dahl M, Suzgun M, Manning CD, Ho DE (2025). Hallucination-Free? Assessing the Reliability of Leading AI Legal Research Tools. Journal of Empirical Legal Studies, 22(2), 216–242. https://doi.org/10.1111/jels.12413
4. Kalai AT, Nachum O, Vempala SS, Zhang E (2025). Why Language Models Hallucinate. arXiv:2509.04664（预印本，备注里那项）. https://arxiv.org/abs/2509.04664
5. 反方：Ayers JW, Poliak A, Dredze M, et al. (2023). Comparing Physician and Artificial Intelligence Chatbot Responses to Patient Questions Posted to a Public Social Media Forum. JAMA Internal Medicine, 183(6), 589. https://doi.org/10.1001/jamainternmed.2023.1838

Tradotto dall’originale cinese. Libro originale, sezione 6, consiglio 31. Il contenuto può essere superato e le regole cambiano da luogo a luogo. Per una pratica, una visita medica o una causa, segui quello che dicono l’ente, il medico o l’avvocato. Avvertenze