Đừng trông chờ chatbot AI tự phán đoán bệnh tình và vấn đề pháp lý; trước khi khám bệnh, đi kiện hay tiêu một khoản lớn, hãy tìm nguyên văn căn cứ mà nó nêu ra và đối chiếu lại

Chi phí

Không tốn tiền. Mỗi lần đối chiếu mất thêm vài phút đến nửa giờ. Yêu cầu AI viết ra điều luật, hướng dẫn hay bài báo mà nó dựa vào, rồi tự mở nguyên văn và tìm đúng câu đó. Thói quen cần sửa là đừng vì nó nói chắc chắn mà làm theo ngay.

Bạn được gì

Trước hết là bệnh. Nature Medicine năm 2026 đăng một thử nghiệm phân nhóm ngẫu nhiên, 1.298 người dân Anh thường, có phương án đăng ký trước. Mỗi người nhận 2 ca bệnh được soạn sẵn, phải đoán là bệnh gì và nên đi cấp cứu hay theo dõi tại nhà. Một nhóm dùng chatbot AI để hỗ trợ, dùng GPT-4o, Llama 3, Command R+. Nhóm đối chứng dùng cách tra cứu thường ngày, phần lớn là tìm trên mạng, hoặc xem trang của Dịch vụ Y tế Quốc gia Anh (NHS). Đưa hoàn toàn ca bệnh cho AI, nó nhận ra bệnh liên quan trong 94,9% trường hợp, và đoán đúng nên đi khám ở đâu trong 56,3%. Người dân thường dùng cùng AI, nhận ra bệnh liên quan dưới 34,5%, đoán đúng nên đi đâu dưới 44,2%. Nhóm đối chứng nhận ra bệnh liên quan có tỷ số odds gấp 1,76 lần nhóm dùng AI (95% CI 1,45–2,13, là khoảng tin cậy). Nhận ra bệnh nặng có dấu hiệu nguy hiểm, tỷ số odds gấp 1,57 lần (1,28–1,92). Đoán nên đi đâu thì hai bên gần như nhau. Tác giả xem lại nội dung trò chuyện, vấn đề nằm ở hai phía. Một phía là người dùng không kể đủ triệu chứng, phía kia là AI nêu đúng bệnh nhưng người dùng không tiếp nhận. Tiếp theo là pháp luật. Một nhóm nghiên cứu Mỹ năm 2024 dùng ChatGPT 4 và các mô hình công khai khác để hỏi về án lệ của tòa án liên bang Mỹ. ChatGPT 4 có 58% câu trả lời bịa đặt, Llama 2 cao tới 88%. Bịa đặt nghĩa là nội dung không khớp với sự thật pháp lý; bài báo gọi đó là «ảo giác». Mô hình không phân biệt được câu nào nó bịa. Khi câu hỏi của người dùng mang tiền đề pháp lý sai, nó thường nghe theo mà không kiểm tra. Cùng nhóm nghiên cứu năm 2025 lại thử công cụ AI pháp lý chuyên dụng mà luật sư dùng. Những công cụ này tự nhận không bịa, thực tế 17% đến 33% câu trả lời có bịa đặt. Nó trông có vẻ đáng tiền vì AI luôn sẵn sàng, không lấy tiền, và nói năng quả quyết như bác sĩ, luật sư.

Ghi chú

Tranh cãi. Năm 2023 một nghiên cứu lấy 195 câu hỏi bệnh nhân từ diễn đàn Mỹ, để nhân viên y tế chấm điểm mà không biết nguồn. 78,6% điểm chấm cho rằng ChatGPT trả lời tốt hơn bác sĩ. Nhưng nó so sánh chất lượng văn bản câu trả lời, không xem người hỏi cuối cùng có phán đoán đúng hay không. Thử nghiệm dùng mô hình năm 2024, mô hình mới có thể mạnh hơn. Tuy nhiên cùng thử nghiệm này cũng thấy: điểm thi riêng của AI không dự đoán được hiệu quả khi người dân dùng nó. Vì sao AI bịa, nhà nghiên cứu OpenAI năm 2025 đã giải thích trong một bài chưa qua bình duyệt. Cách huấn luyện và chấm điểm thưởng cho việc «đoán một đáp án», trả lời «không biết» không được điểm, nên khi không chắc, nó vẫn nói rất quả quyết. Cách kiểm tra là yêu cầu nó ghi tên điều luật và số điều, tên hướng dẫn hay bài báo; bạn lên trang chính thức mở nguyên văn tìm câu đó, không thấy thì coi như nó chưa từng nói. Khi hỏi, đừng ghi kết luận của mình vào, hãy hỏi «trường hợp này pháp luật quy định thế nào», đừng hỏi «trường hợp này tôi có thắng chắc không». Dấu hiệu như miệng méo, một bên yếu, đau tức ngực thì đừng hỏi AI trước, gọi thẳng 120 (số cấp cứu y tế ở Trung Quốc), xem §13.3 (miệng méo, một bên tay yếu) và §13.7 (đau tức ngực). Đi kiện không có tiền thuê luật sư, xem §7.3 (xin trợ giúp pháp lý). Xếp lợi ích ở mức nhỏ, vì chỉ có chỉ số trung gian như «có nhận ra bệnh hay không», không có con số nào về việc cứu được người. Người được hưởng lợi là chính bạn và người nhà.

Mức bằng chứng

A : Số liệu cụ thể từ phân tích gộp, nghiên cứu đoàn hệ lớn hoặc thử nghiệm ngẫu nhiên; với luật và chính sách, là văn bản chính thức.

Nguồn

1. Bean AM, Payne RE, Parsons G, et al. (2026). Reliability of LLMs as medical assistants for the general public: a randomized preregistered study. Nature Medicine, 32(2), 609–615. https://doi.org/10.1038/s41591-025-04074-y
2. Dahl M, Magesh V, Suzgun M, Ho DE (2024). Large Legal Fictions: Profiling Legal Hallucinations in Large Language Models. Journal of Legal Analysis, 16(1), 64–93. https://doi.org/10.1093/jla/laae003
3. Magesh V, Surani F, Dahl M, Suzgun M, Manning CD, Ho DE (2025). Hallucination-Free? Assessing the Reliability of Leading AI Legal Research Tools. Journal of Empirical Legal Studies, 22(2), 216–242. https://doi.org/10.1111/jels.12413
4. Kalai AT, Nachum O, Vempala SS, Zhang E (2025). Why Language Models Hallucinate. arXiv:2509.04664（预印本，备注里那项）. https://arxiv.org/abs/2509.04664
5. 反方：Ayers JW, Poliak A, Dredze M, et al. (2023). Comparing Physician and Artificial Intelligence Chatbot Responses to Patient Questions Posted to a Public Social Media Forum. JAMA Internal Medicine, 183(6), 589. https://doi.org/10.1001/jamainternmed.2023.1838

Dịch từ bản gốc tiếng Trung. Sách gốc, phần 6, mục 31. Nội dung có thể đã cũ và quy định mỗi nơi một khác. Khi làm thủ tục, khám bệnh hay kiện tụng, hãy theo hướng dẫn của cơ quan nhà nước, bác sĩ hoặc luật sư. Miễn trừ trách nhiệm