Consultar a un chatbot para entender términos médicos o preparar un borrador de contrato puede ser útil como orientación, pero sus respuestas pueden omitir datos decisivos o citar información desactualizada. En salud y derecho, la idoneidad de una herramienta de IA depende de su finalidad, de cómo se ha evaluado y de quién supervisa su uso. No es lo mismo un asistente general que un sistema diseñado para apoyar una tarea clínica concreta.
Por qué la IA no sustituye el criterio médico ni legal
Un médico no solo lee una lista de síntomas; evalúa el historial familiar, observa signos sutiles durante la exploración física y solicita pruebas para descartar dolencias graves. Del mismo modo, un abogado no se limita a citar leyes: analiza la jurisdicción exacta, los plazos procesales vigentes y la jurisprudencia aplicable al caso concreto.
Los asistentes de IA procesan grandes volúmenes de texto, pero no distinguen por sí mismos entre un hecho contrastado y una afirmación desactualizada. En el ámbito de la IA, riesgos en salud y derecho surgen cuando el usuario confunde la elocuencia de un texto generado con rigor técnico. Un modelo puede redactar una explicación impecable desde el punto de vista gramatical, pero basada en premisas falsas o en leyes que ya han sido derogadas en el país donde reside el consultante.
El fenómeno de las respuestas inventadas y la falta de contexto
En informática se utiliza el concepto de alucinación para describir aquellas situaciones en las que un modelo de lenguaje inventa datos, citas o precedentes presentándolos con absoluta seguridad. Esto no se debe a mala intención del programa, sino a su funcionamiento interno: su objetivo es completar frases de forma verosímil, no decir la verdad.
En un entorno cotidiano, esta limitación puede causar daños graves:
- En la salud: el sistema puede sugerir la retirada de un fármaco o el consumo de dosis inapropiadas al ignorar interacciones con otros tratamientos o patologías previas.
- En el derecho: el software puede citar artículos inexistentes de un código penal o recomendar estrategias procesales que agoten plazos legales improrrogables, dejando a la persona indefensa ante un tribunal.
Los marcos de gestión de riesgos, como el del NIST, piden evaluar los sistemas en su contexto de uso. No establecen que toda IA pierda fiabilidad en la misma proporción ante cualquier tarea médica o jurídica. La OMS reconoce posibilidades de apoyo al diagnóstico y al tratamiento, pero también la necesidad de evaluación rigurosa, supervisión y protección de las personas.
Situaciones cotidianas donde delegar decisiones puede salir mal
Para comprender mejor el alcance del problema, conviene observar dos situaciones frecuentes:
- La consulta de dolor torácico: Una persona siente opresión en el pecho y describe sus síntomas a una aplicación. Si la respuesta sugiere que se trata de ansiedad o de un problema muscular leve basándose en patrones generales, el usuario podría retrasar la visita a urgencias ante un verdadero infarto de miocardio.
- La redacción de un contrato de alquiler: Un propietario pide a la IA un contrato estándar para arrendar una vivienda. Si el texto resultante aplica normativas de otra región o cláusulas declaradas nulas por los tribunales locales, ambas partes quedarán desprotegidas ante un conflicto judicial.
En ambos casos, la interacción con la IA y los riesgos en salud y derecho asociados demuestran que la aparente comodidad inicial puede traducirse en pérdidas irreparables de salud o patrimonio.
Pautas para usar la tecnología sin poner en riesgo tus derechos o tu bienestar
El problema no radica en el uso de la tecnología como apoyo informativo general, sino en la confianza excesiva que prescinde de la supervisión humana experta. Para protegerte, conviene seguir unas pautas sencillas:
- Utiliza la tecnología solo como orientación inicial: Puedes usar estas herramientas para recopilar preguntas que luego formularás a tu médico o abogado, nunca para tomar la decisión final.
- Desconfía de la certeza absoluta: Si una respuesta parece demasiado categórica en un asunto complejo, exige siempre fuentes primarias oficiales.
- Protege tu privacidad: No introduzcas informes clínicos, nombres de terceros ni datos financieros confidenciales en chats abiertos, ya que la información podría almacenarse o procesarse indebidamente.
Tratar la IA y los riesgos en salud y derecho con sentido crítico es indispensable: una respuesta generada no sustituye el examen del caso por profesionales competentes ni determina por sí misma quién tiene responsabilidad jurídica. Esto último depende de las normas y hechos aplicables en cada lugar.