Jangan mengandalkan chatbot AI untuk menilai kondisi medis atau masalah hukum sendiri; sebelum berobat, menggugat, atau mengeluarkan uang besar, temukan teks asli dasar yang disebutkannya dan periksa ulang

Biaya

Tidak berbiaya. Setiap pemeriksaan memakan beberapa menit hingga setengah jam. Mintalah AI menuliskan pasal, pedoman, atau makalah yang menjadi dasarnya, lalu buka teks aslinya dan temukan kalimat itu. Kebiasaan yang perlu diubah: jangan langsung menuruti hanya karena jawabannya terdengar yakin.

Yang Anda dapat

Pertama kondisi medis. Pada 2026, Nature Medicine menerbitkan uji acak dengan 1.298 warga umum Inggris, yang pendaftarannya dilakukan sebelum penelitian. Setiap peserta menerima dua kasus rekaan dan harus menilai penyakitnya apa, dan apakah perlu ke UGD atau cukup dipantau di rumah. Sebagian peserta memakai chatbot AI: GPT-4o, Llama 3, dan Command R+. Kelompok kontrol memakai cara biasa mereka, sebagian besar mencari di internet, atau melihat situs layanan kesehatan nasional Inggris (NHS). Ketika seluruh kasus diberikan kepada AI langsung, ia mengenali penyakit yang relevan 94,9% dan menilai dengan benar di mana harus berobat 56,3%. Orang awam yang memakai AI yang sama hanya mengenali penyakit yang relevan kurang dari 34,5% dan menilai dengan benar tempat berobat kurang dari 44,2%. Kelompok kontrol memiliki peluang mengenali penyakit yang relevan 1,76 kali lipat dibanding yang memakai AI (95% CI 1,45–2,13; rentang kepercayaan). Peluang mengenali penyakit berat dengan tanda bahaya 1,57 kali (1,28–1,92). Dalam menilai tempat berobat, keduanya hampir sama. Penulis memeriksa rekaman percakapan: masalahnya ada di dua sisi. Di satu sisi, pengguna tidak menyebutkan semua gejala; di sisi lain, AI menyebut penyakit yang benar, tetapi pengguna tidak mengikutinya. Kedua, hukum. Sebuah tim AS pada 2024 menguji model publik seperti ChatGPT 4 dengan pertanyaan tentang putusan pengadilan federal AS. ChatGPT 4 menghasilkan jawaban yang mengandung karangan sebanyak 58%, dan Llama 2 mencapai 88%. «Karangan» berarti isi yang tidak sesuai dengan fakta hukum; makalah itu menyebutnya «halusinasi». Model tidak bisa membedakan kalimat mana yang dikarang. Jika pertanyaan pengguna mengandung premis hukum yang salah, model sering menerimanya begitu saja. Tim yang sama pada 2025 menguji alat AI hukum profesional yang dipakai pengacara. Alat-alat ini mengklaim tidak mengarang, tetapi kenyataannya 17% hingga 33% jawabannya mengandung karangan. Ini terlihat menguntungkan karena AI tersedia setiap saat, tidak dibayar, dan berbicara dengan nada yakin seperti dokter atau pengacara.

Catatan

Perdebatan. Sebuah studi tahun 2023 mengambil 195 pertanyaan pasien dari forum AS dan meminta tenaga medis menilainya tanpa mengetahui sumbernya. Sebanyak 78,6% penilaian menyatakan jawaban ChatGPT lebih baik daripada dokter. Tetapi yang dibandingkan adalah bagusnya tulisan jawaban, bukan apakah orang yang bertanya akhirnya membuat keputusan yang benar. Uji tersebut memakai model tahun 2024; model yang lebih baru mungkin lebih kuat. Tetapi uji yang sama juga menemukan bahwa nilai AI saat ujian sendirian tidak bisa memprediksi hasil ketika orang biasa memakainya. Mengapa AI mengarang, peneliti OpenAI menjelaskannya dalam makalah tahun 2025 yang belum melalui tinjauan sejawat: cara pelatihan dan penilaiannya memberi hadiah pada «menebak jawaban», sedangkan «tidak tahu» tidak mendapat nilai, sehingga ketika tidak yakin pun ia tetap menjawab dengan tegas. Cara memeriksanya: minta AI menuliskan nama pasal dan nomornya, atau judul pedoman atau makalahnya; lalu buka teks resmi di situs pemerintah dan cari kalimatnya. Jika tidak ketemu, anggap AI tidak pernah mengatakannya. Saat bertanya, jangan masukkan kesimpulan Anda sendiri: tanyakan «bagaimana hukum mengatur situasi seperti ini», jangan «apakah saya pasti menang dalam situasi ini». Jika tiba-tiba mulut mencong, satu sisi tubuh lemas, atau dada tertekan terasa sakit, jangan tanya AI dulu; langsung telepon 120, lihat §13.3 (mulut mencong dan satu lengan lemas) dan §13.7 (dada terasa tertekan dan sakit). Bagi yang berperkara tanpa uang untuk pengacara, lihat §7.3 (mengajukan bantuan hukum). Manfaatnya dinilai «kecil», karena yang diukur hanya indikator antara seperti «apakah penyakit berhasil dikenali», tanpa angka berapa nyawa yang terselamatkan. Penerima manfaat adalah Anda sendiri dan keluarga.

Tingkat bukti

A : Angka konkret dari meta-analisis, kohort besar, atau uji acak; untuk hukum dan kebijakan, teks resminya.

Sumber

1. Bean AM, Payne RE, Parsons G, et al. (2026). Reliability of LLMs as medical assistants for the general public: a randomized preregistered study. Nature Medicine, 32(2), 609–615. https://doi.org/10.1038/s41591-025-04074-y
2. Dahl M, Magesh V, Suzgun M, Ho DE (2024). Large Legal Fictions: Profiling Legal Hallucinations in Large Language Models. Journal of Legal Analysis, 16(1), 64–93. https://doi.org/10.1093/jla/laae003
3. Magesh V, Surani F, Dahl M, Suzgun M, Manning CD, Ho DE (2025). Hallucination-Free? Assessing the Reliability of Leading AI Legal Research Tools. Journal of Empirical Legal Studies, 22(2), 216–242. https://doi.org/10.1111/jels.12413
4. Kalai AT, Nachum O, Vempala SS, Zhang E (2025). Why Language Models Hallucinate. arXiv:2509.04664（预印本，备注里那项）. https://arxiv.org/abs/2509.04664
5. 反方：Ayers JW, Poliak A, Dredze M, et al. (2023). Comparing Physician and Artificial Intelligence Chatbot Responses to Patient Questions Posted to a Public Social Media Forum. JAMA Internal Medicine, 183(6), 589. https://doi.org/10.1001/jamainternmed.2023.1838

Diterjemahkan dari naskah asli berbahasa Tionghoa. Buku asli, bagian 6, saran 31. Isinya bisa sudah usang dan aturan berbeda di tiap tempat. Saat mengurus sesuatu, berobat, atau berperkara, ikuti petunjuk instansi, dokter, atau pengacara. Penafian