Hastalık ve hukuk sorularında AI sohbet botunun kendi başına doğru karar vereceğine güvenmeyin; hekime gitmeden, dava açmadan ya da büyük harcama yapmadan önce, dayandığını söylediği kaynağı orijinal metinde bulup kontrol edin

Maliyet

Ücretsiz. Her kontrol birkaç dakika ile yarım saat arasında sürer. AI'dan dayandığı kanun maddesini, kılavuzu ya da makaleyi yazmasını isteyin, orijinal metni açıp o cümleyi bulun. Değiştirilmesi gereken alışkanlık: kendinden emin konuştu diye hemen uygulamamak.

Ne kazanırsınız

Önce hastalık. 2026'da Nature Medicine dergisinde önceden kaydedilmiş bir rastgele gruplamalı deney yayımlandı: 1.298 İngiliz sıradan kişi katıldı. Her kişiye iki kurgusal vaka verildi; hangi hastalık olduğunu ve acile mi gidileceğini ya da evde mi izleneceğini belirlemeleri istendi. Bir kısmı bunu yapay zekâ sohbet botu (GPT-4o, Llama 3, Command R+) ile yaptı. Kontrol grubu kendi olağan yöntemlerini kullandı: çoğu internette arama ya da İngiltere Ulusal Sağlık Servisi (NHS) sitesi. Tam vaka AI'a doğrudan verildiğinde, AI ilgili hastalığı %94,9 oranında tanıdı ve %56,3'te hangi sağlık birimine gidilmesi gerektiğini doğru söyledi. Aynı AI'ı kullanan sıradan kişiler ilgili hastalığı %34,5'in altında tanıdı, hangi birime gidileceğini %44,2'nin altında doğru bildi. Kontrol grubunun ilgili hastalığı tanıma olasılığı, AI kullananların 1,76 katı (%95 CI 1,45–2,13; güven aralığı). Tehlikeli işaret gösteren ağır hastalıkları tanıma olasılığı 1,57 kat (1,28–1,92). Hangi birime gidileceği konusunda iki grup yaklaşık aynı. Yazarlar konuşma kayıtlarına baktı: sorun iki taraflıydı. Bir yanda kullanıcılar semptomları eksiksiz anlatmadı, öte yanda AI doğru hastalığı söylediğinde kullanıcılar bunu dikkate almadı. Sonra hukuk. 2024'te bir ABD araştırma ekibi, ChatGPT 4 gibi açık modelleri ABD federal mahkeme içtihatlarıyla test etti. ChatGPT 4 yanıtların %58'inde uydurma yaptı; Llama 2'de bu oran %88 idi. Uydurma, hukuki gerçeklerle uyuşmayan içerik demektir; makale buna «halüsinasyon» adını verdi. Model, hangi cümlenin uydurma olduğunu ayırt edemiyor. Kullanıcı sorusunda yanlış bir hukuki ön kabul varsa, model genellikle onu olduğu gibi kabul ediyor. Aynı ekip 2025'te avukatların kullandığı profesyonel hukuk AI araçlarını da test etti. Bu araçlar uydurmadığını iddia ediyor; ama yanıtların %17 ila %33'ünde uydurma çıktı. Mantıklı görünmesinin nedeni, AI'ın her zaman ulaşılabilir ve ücretsiz olması ve hekim ya da avukat gibi kendinden emin konuşmasıdır.

Notlar

Tartışmalı nokta. 2023'te bir çalışma ABD forumlarından 195 hasta sorusu aldı; sağlık personeli kaynağı bilmeden puanladı. Puanların %78,6'sı ChatGPT'nin yanıtlarının doktorlardan daha iyi olduğunu söyledi. Ancak bu, yanıtların yazım kalitesi; soruyu soranın sonunda doğru karar verip vermediğine bakılmadı. Deney 2024 modelleriyle yapıldı; yeni modeller daha güçlü olabilir. Ancak aynı deneyde, AI'ın tek başına sınavdaki başarısının sıradan insanların kullanımındaki etkisini öngörmediği de bulundu. AI'ın neden uydurduğu, OpenAI araştırmacıları tarafından 2025'te hakem denetiminden geçmemiş bir makalede açıklandı: eğitim ve puanlama yöntemi «bir yanıt tahmin etmeyi» ödüllendiriyor, «bilmiyorum» yanıtı puan getirmiyor; bu yüzden emin olmadığında da kendinden emin konuşuyor. Kontrol yöntemi: kanun maddesinin adını ve numarasını, kılavuzun ya da makalenin başlığını yazmasını isteyin; resmi siteye gidip orijinal metinde o cümleyi bulun; bulamazsanız, söylenmemiş sayın. Soru sorarken kendi sonucunuzu yazmayın: «bu durumda kanun ne diyor?» diye sorun, «bu durumda kazanır mıyım?» diye sormayın. Ani ağız kayması, tek tarafta güçsüzlük, göğüste ezici ağrı gibi işaretlerde AI'a önce sormayın; doğrudan 120 (Çin'de acil çağrı numarası) arayın; bkz. §13.3 (ağız kayması ve bir kolda güçsüzlük) ve §13.7 (göğüste ezici ağrı). Parası olmayıp avukat tutamayanlar için bkz. §7.3 (ücretsiz hukuki yardım, 法律援助, başvurusu). Fayda küçük olarak belirlendi; çünkü yalnızca «hastalığı tanıdı mı» gibi ara göstergeler var, daha az ölüm rakamı yok. Yararlanan kişi sizsiniz ve aileniz.

Kanıt düzeyi

A : Meta-analizlerden, büyük kohort çalışmalarından ya da randomize denemelerden kesin rakamlar; yasa ve politikalarda resmî metin.

Kaynaklar

1. Bean AM, Payne RE, Parsons G, et al. (2026). Reliability of LLMs as medical assistants for the general public: a randomized preregistered study. Nature Medicine, 32(2), 609–615. https://doi.org/10.1038/s41591-025-04074-y
2. Dahl M, Magesh V, Suzgun M, Ho DE (2024). Large Legal Fictions: Profiling Legal Hallucinations in Large Language Models. Journal of Legal Analysis, 16(1), 64–93. https://doi.org/10.1093/jla/laae003
3. Magesh V, Surani F, Dahl M, Suzgun M, Manning CD, Ho DE (2025). Hallucination-Free? Assessing the Reliability of Leading AI Legal Research Tools. Journal of Empirical Legal Studies, 22(2), 216–242. https://doi.org/10.1111/jels.12413
4. Kalai AT, Nachum O, Vempala SS, Zhang E (2025). Why Language Models Hallucinate. arXiv:2509.04664（预印本，备注里那项）. https://arxiv.org/abs/2509.04664
5. 反方：Ayers JW, Poliak A, Dredze M, et al. (2023). Comparing Physician and Artificial Intelligence Chatbot Responses to Patient Questions Posted to a Public Social Media Forum. JAMA Internal Medicine, 183(6), 589. https://doi.org/10.1001/jamainternmed.2023.1838

Çince asıl metinden çevrilmiştir. Asıl kitap, bölüm 6, öneri 31. İçerik güncelliğini yitirmiş olabilir ve kurallar yerden yere değişir. Bir işlem, tedavi ya da dava söz konusuysa resmî kurumun, doktorun veya avukatın söylediğine uyun. Sorumluluk reddi