AI चैटबॉट से बीमारी या क़ानूनी सवाल का फ़ैसला करवाने पर भरोसा न करें; डॉक्टर, वकील या बड़े ख़र्च से पहले उसकी बताई बात का मूल स्रोत ढूँढकर जाँच लें

लागत

कोई पैसा नहीं लगता। हर जाँच में कुछ मिनट से आधा घंटा लगता है। AI से वह क़ानून, दिशा-निर्देश या शोध-पत्र लिखवाएँ जिस पर उसका जवाब आधारित है, फिर ख़ुद मूल स्रोत खोलकर वह वाक्य ढूँढें। बदलने वाली आदत यह है कि AI के आत्मविश्वास से बिना जाँचे काम न करें।

आपको क्या मिलेगा

पहले बीमारी की बात। 2026 में Nature Medicine में एक यादृच्छिक परीक्षण छपा, जिसमें ब्रिटेन के 1,298 आम लोग शामिल हुए थे, और इसका प्रोटोकॉल पहले से पंजीकृत था। हर व्यक्ति को दो बनावटी केस दिए गए, और उन्हें बताना था कि बीमारी क्या है और इमरजेंसी में जाना है या घर पर देखना है। एक समूह ने AI चैटबॉट (GPT-4o, Llama 3, Command R+) से मदद ली। नियंत्रण समूह ने अपने सामान्य तरीक़े इस्तेमाल किए, ज़्यादातर इंटरनेट खोज, या ब्रिटेन की राष्ट्रीय स्वास्थ्य सेवा (NHS) की वेबसाइट। जब पूरा केस सीधे AI को दिया गया, तो वह 94.9% मामलों में सही संबंधित बीमारी पहचान पाया, और 56.3% में सही बताया कि कहाँ जाना है। आम लोग वही AI इस्तेमाल करते तो संबंधित बीमारी 34.5% से कम पहचान पाए, और सही बताया कि कहाँ जाना है, यह 44.2% से कम। नियंत्रण समूह के लोगों के संबंधित बीमारी पहचानने की संभावना AI इस्तेमाल करने वालों से 1.76 गुना थी (95% CI 1.45–2.13, विश्वसनीय सीमा)। ख़तरे के संकेत वाली गंभीर बीमारी पहचानने की संभावना 1.57 गुना थी (1.28–1.92)। कहाँ जाना है, इसमें दोनों लगभग बराबर थे। लेखकों ने बातचीत के रिकॉर्ड खंगाले, और दिक़्क़त दोनों तरफ़ से पाई गई: एक तरफ़ उपयोगकर्ता ने लक्षण पूरे नहीं बताए, और दूसरी तरफ़ AI ने सही बीमारी का ज़िक्र किया, पर उपयोगकर्ता ने उसे नहीं अपनाया। अब क़ानून की बात। एक अमेरिकी शोध-दल ने 2024 में ChatGPT 4 सहित सार्वजनिक मॉडलों से अमेरिकी संघीय अदालतों के फ़ैसलों के बारे में पूछा। ChatGPT 4 के 58% जवाबों में मनगढ़ंत बातें थीं, और Llama 2 में यह 88% तक थी। मनगढ़ंत का मतलब है वह बात जो क़ानूनी तथ्यों से मेल न खाए; शोध-पत्र इसे «हैलुसिनेशन» कहता है। मॉडल यह नहीं पहचान पाता कि उसकी कौन-सी बात मनगढ़ंत है। जब सवाल में ग़लत क़ानूनी धारणा हो, तो वह अक्सर उसे बिना सवाल किए मान लेता है। उसी शोध-दल ने 2025 में वकीलों के इस्तेमाल वाले पेशेवर क़ानूनी AI टूल भी परखे। ये टूल दावा करते थे कि ये मनगढ़ंत नहीं बनाते, पर असल में 17% से 33% जवाबों में मनगढ़ंत बातें थीं। यह फ़ायदे का सौदा लगता है, क्योंकि AI हर समय उपलब्ध है, मुफ़्त है, और डॉक्टर या वकील की तरह पक्के अंदाज़ में बोलता है।

टिप्पणी

विवाद। 2023 के एक अध्ययन में अमेरिकी फ़ोरम से 195 मरीज़ों के सवाल लिए गए, और चिकित्सा कर्मियों ने स्रोत जाने बिना अंक दिए। 78.6% अंकों में माना गया कि ChatGPT का जवाब डॉक्टर से बेहतर था। पर इसमें जवाब कितना अच्छा लिखा गया, यह नापा गया; यह नहीं देखा गया कि सवाल पूछने वाले ने अंत में सही फ़ैसला लिया या नहीं। परीक्षण 2024 के मॉडल से हुआ था, नए मॉडल शायद बेहतर हों। फिर भी उसी परीक्षण में यह भी पाया गया कि AI अकेले परीक्षा में जितना अच्छा करता है, उससे यह अनुमान नहीं लगता कि आम लोग उसका इस्तेमाल कितना अच्छा करेंगे। AI मनगढ़ंत क्यों बनाता है, इसकी व्याख्या OpenAI के शोधकर्ताओं ने 2025 के एक पीयर-रिव्यू से पहले छपे शोध-पत्र में दी। प्रशिक्षण और अंक देने का तरीक़ा «कोई एक जवाब अनुमान लगाने» को इनाम देता है, और «मुझे नहीं पता» को अंक नहीं मिलते, इसलिए शंका होने पर भी वह पक्के ढंग से बोलता है। जाँच का तरीक़ा यह है कि वह क़ानून का नाम और धारा, या दिशा-निर्देश या शोध-पत्र का शीर्षक लिखे; आप आधिकारिक वेबसाइट पर मूल पाठ खोलकर वह वाक्य ढूँढें, और न मिले तो मान लें कि उसने ऐसा कहा ही नहीं। सवाल में अपना निष्कर्ष न डालें: पूछें «ऐसी स्थिति में क़ानून क्या कहता है», न कि «क्या मैं इस केस में जीत ही जाऊँगा»। अचानक मुँह टेढ़ा होना, एक तरफ़ का हाथ-पैर कमज़ोर होना, या सीने में दबाव वाला दर्द, इन संकेतों पर पहले AI से न पूछें, सीधे 120 पर फ़ोन करें; देखें §13.3 (मुँह टेढ़ा होना, एक तरफ़ हाथ कमज़ोर) और §13.7 (सीने में दबाव वाला दर्द)। मुकदमे के लिए वकील का ख़र्च न उठा सकें, तो कानूनी सहायता (法律援助) के लिए आवेदन देखें §7.3। लाभ का स्तर «छोटा» रखा गया है, क्योंकि यहाँ सिर्फ़ «बीमारी पहचानी या नहीं» जैसे बीच के संकेतक हैं, और कम मौतों का कोई आँकड़ा नहीं है। लाभार्थी आप ख़ुद और घर के लोग हैं।

सबूत का स्तर

A : मेटा-विश्लेषण, बड़े कोहोर्ट अध्ययनों या रैंडमाइज़्ड ट्रायल से मिले ठोस आँकड़े; क़ानून और नीतियों के लिए आधिकारिक पाठ.

स्रोत

1. Bean AM, Payne RE, Parsons G, et al. (2026). Reliability of LLMs as medical assistants for the general public: a randomized preregistered study. Nature Medicine, 32(2), 609–615. https://doi.org/10.1038/s41591-025-04074-y
2. Dahl M, Magesh V, Suzgun M, Ho DE (2024). Large Legal Fictions: Profiling Legal Hallucinations in Large Language Models. Journal of Legal Analysis, 16(1), 64–93. https://doi.org/10.1093/jla/laae003
3. Magesh V, Surani F, Dahl M, Suzgun M, Manning CD, Ho DE (2025). Hallucination-Free? Assessing the Reliability of Leading AI Legal Research Tools. Journal of Empirical Legal Studies, 22(2), 216–242. https://doi.org/10.1111/jels.12413
4. Kalai AT, Nachum O, Vempala SS, Zhang E (2025). Why Language Models Hallucinate. arXiv:2509.04664（预印本，备注里那项）. https://arxiv.org/abs/2509.04664
5. 反方：Ayers JW, Poliak A, Dredze M, et al. (2023). Comparing Physician and Artificial Intelligence Chatbot Responses to Patient Questions Posted to a Public Social Media Forum. JAMA Internal Medicine, 183(6), 589. https://doi.org/10.1001/jamainternmed.2023.1838

चीनी मूल से अनुवादित। मूल किताब, भाग 6, सलाह 31. सामग्री पुरानी हो सकती है और नियम जगह-जगह अलग होते हैं। कोई काम करवाते, इलाज कराते या मुक़दमा लड़ते समय सरकारी विभाग, डॉक्टर या वकील की बात मानें। अस्वीकरण