No confiar en un chatbot de IA para juzgar tu estado de salud o cuestiones legales; antes de ir al médico, invertir dinero o ir a juicio, busca el texto original de lo que te dice y compruébalo

Coste

No cuesta dinero. Cada comprobación lleva entre unos minutos y media hora. Pide a la IA que escriba la ley, la guía o el artículo en que se basa, abre tú mismo el original y busca la frase. El hábito que hay que cambiar es no hacer algo solo porque lo diga con seguridad.

Qué ganas

Primero, la salud. En 2026, Nature Medicine publicó un ensayo aleatorizado con 1.298 británicos, con protocolo registrado de antemano. Cada persona recibió dos casos clínicos preparados y debía decidir qué enfermedad era y si había que ir a urgencias o cuidarse en casa. Un grupo usó un chatbot de IA (GPT-4o, Llama 3, Command R+); el grupo de control usó sus propios métodos, sobre todo buscadores de internet o la web del Servicio Nacional de Salud británico (NHS). Con el caso clínico completo entregado directamente a la IA, esta identificó la enfermedad relevante en el 94,9 % de los casos y acertó el lugar de atención en el 56,3 %. Las personas corrientes que usaron la misma IA identificaron la enfermedad relevante en menos del 34,5 % de los casos y acertaron el lugar de atención en menos del 44,2 %. Las probabilidades de identificar la enfermedad relevante fueron 1,76 veces mayores en el grupo de control que en el de IA (IC 95 %: 1,45 a 2,13). Las de identificar una enfermedad grave con señales de alarma fueron 1,57 veces mayores (1,28 a 1,92). Al decidir a dónde acudir, los dos grupos fueron parecidos. Los autores revisaron las conversaciones: el problema estaba en ambos lados. Por un lado, el usuario no describía bien los síntomas; por otro, la IA mencionaba la enfermedad correcta y el usuario no la tomaba en cuenta. Ahora, la ley. Un equipo estadounidense de 2024 preguntó a modelos públicos como ChatGPT 4 por sentencias de tribunales federales de EE. UU.: ChatGPT 4 inventó contenido en el 58 % de sus respuestas, y Llama 2, en el 88 %. Se entiende por «inventos» el contenido que no coincide con los hechos legales; el artículo lo llama «alucinación». El modelo no distingue qué frases inventa. Cuando la pregunta del usuario incluye una premisa legal errónea, a menudo la acepta sin cuestionarla. El mismo equipo probó en 2025 herramientas de IA jurídica profesional para abogados. Estas se presentan como que no inventan, pero en la práctica entre el 17 % y el 33 % de sus respuestas contenían invenciones. Parece rentable porque la IA está siempre disponible, no cobra y habla con la seguridad de un médico o un abogado.

Notas

Controversia. En un estudio de 2023 se tomaron 195 preguntas de pacientes de foros estadounidenses, y personal médico las puntuó sin conocer la fuente. El 78,6 % de las puntuaciones consideró que ChatGPT respondía mejor que los médicos. Pero eso mide si las respuestas estaban bien redactadas, no si quien preguntó acabó tomando la decisión correcta. El ensayo usó modelos de 2024, y los más nuevos podrían ser mejores. Aun así, el mismo ensayo también encontró que el rendimiento de la IA en exámenes no predice su efecto cuando la usa una persona corriente. Por qué la IA inventa, lo explicaron investigadores de OpenAI en 2025, en un artículo sin revisión por pares: el entrenamiento y la evaluación recompensan «adivinar una respuesta», y decir «no lo sé» no puntúa, así que cuando no está segura también lo afirma con firmeza. Para comprobarlo, pide que escriba el nombre de la ley y el número de artículo, o el título de la guía o del artículo, y busca la frase en el sitio oficial. Si no la encuentras, considera que no la dijo. Al preguntar, no incluyas tu propia conclusión: pregunta «¿qué dice la ley sobre esta situación?», no «¿tengo ganado este juicio?». Si de repente se te tuerce la boca, se te debilita un lado del cuerpo o sientes un dolor que aprieta el pecho, no preguntes primero a la IA: llama al 120 (el número de emergencias médicas en China); véanse §13.3 (boca torcida, un brazo sin fuerza) y §13.7 (dolor que aprieta el pecho). Quien tiene un juicio y no puede pagar un abogado, véase §7.3 (solicitar asistencia jurídica gratuita). La calificación del beneficio es pequeña, porque solo se miden indicadores intermedios, como si se identificó la enfermedad, y no cifras de muertes evitadas. El beneficiario eres tú y tu familia.

Nivel de evidencia

A : Cifras concretas de metaanálisis, grandes cohortes o ensayos aleatorizados; en leyes y políticas, el texto legal u oficial.

Fuentes

1. Bean AM, Payne RE, Parsons G, et al. (2026). Reliability of LLMs as medical assistants for the general public: a randomized preregistered study. Nature Medicine, 32(2), 609–615. https://doi.org/10.1038/s41591-025-04074-y
2. Dahl M, Magesh V, Suzgun M, Ho DE (2024). Large Legal Fictions: Profiling Legal Hallucinations in Large Language Models. Journal of Legal Analysis, 16(1), 64–93. https://doi.org/10.1093/jla/laae003
3. Magesh V, Surani F, Dahl M, Suzgun M, Manning CD, Ho DE (2025). Hallucination-Free? Assessing the Reliability of Leading AI Legal Research Tools. Journal of Empirical Legal Studies, 22(2), 216–242. https://doi.org/10.1111/jels.12413
4. Kalai AT, Nachum O, Vempala SS, Zhang E (2025). Why Language Models Hallucinate. arXiv:2509.04664（预印本，备注里那项）. https://arxiv.org/abs/2509.04664
5. 反方：Ayers JW, Poliak A, Dredze M, et al. (2023). Comparing Physician and Artificial Intelligence Chatbot Responses to Patient Questions Posted to a Public Social Media Forum. JAMA Internal Medicine, 183(6), 589. https://doi.org/10.1001/jamainternmed.2023.1838

Traducido del original en chino. Libro original, sección 6, consejo 31. El contenido puede estar desactualizado y las normas cambian según el lugar. Cuando hagas un trámite, vayas al médico o a juicio, sigue lo que te digan la administración, el médico o el abogado. Aviso legal