Los asistentes de IA para pacientes deben evaluarse durante todo el recorrido de salud, no solo por una respuesta

EN BREVE

El marco propone evaluar al asistente a lo largo de una trayectoria: antes de la consulta, tras el alta y en el autocuidado diario. Cada afirmación relevante debe poder vincularse a la fuente, fecha, unidad y versión correctas.

Del prompt aislado al recorrido real

Los asistentes de salud de consumo empiezan a combinar datos de historia clínica electrónica, resultados de laboratorio, informes, medicación, registros del paciente y dispositivos conectados. Sin embargo, muchas evaluaciones siguen midiendo una única pregunta y una única respuesta.

El artículo propone tomar como unidad de evaluación el “espacio personal de salud”: un entorno controlado por el usuario en el que el asistente mantiene un estado a lo largo de sesiones repetidas, conserva el historial de correcciones y respeta límites de seguridad.

Qué debería comprobarse

Antes de una cita, el sistema puede ayudar a ordenar cambios en resultados y preparar preguntas.

Tras el alta, puede explicar un plan de cuidados paso a paso. En el día a día, puede resumir tendencias de un wearable o de un diario de salud. Pero cada tarea exige comprobar que la herramienta ha utilizado el dato correcto y el periodo correcto.

Los autores plantean cuatro pruebas esenciales: que las afirmaciones estén ancladas a la evidencia; que se identifiquen los datos incompletos, antiguos o contradictorios; que una corrección del usuario persista en sesiones posteriores; y que la herramienta elija la acción segura, incluida la derivación cuando sea necesaria.

El reto de la memoria y las correcciones

Una respuesta aparentemente correcta puede volverse insegura si reutiliza una cifra de otra fecha, confunde unidades, da prioridad a una lista de medicación antigua o repite un error ya corregido. Por eso, la propuesta reclama que el asistente deje un rastro auditable de las fuentes empleadas, sus actualizaciones y los disparadores de seguridad.

El marco distingue entre un fallo de los datos de entrada -por ejemplo, un registro incompleto- y un fallo del asistente cuando contaba con la información necesaria pero la interpretó o vinculó mal. Esa diferencia permite no ocultar lagunas de información con respuestas tranquilizadoras sin respaldo.

Cuándo responder y cuándo escalar

Para educación de bajo riesgo y sustentada en evidencia, el sistema podría explicar de forma autónoma. Si faltan datos críticos, debería preguntar; si la respuesta depende de dosis, unidades, actualidad de una fuente o guías clínicas, tendría que verificar con herramientas aprobadas. Cuando la evidencia no es suficiente, debe aplazar la respuesta o escalar ante señales de alarma.

Los umbrales para esa derivación deben definirse localmente con revisión clínica, y el seguimiento posterior debería medir tanto las escaladas que no se produjeron como las evitables. Los autores consideran que pedir verificación o escalar no son fallos si responden a la política de seguridad.

Privacidad, equidad y supervisión

La perspectiva incorpora condiciones para desplegar estas soluciones: interoperabilidad con los sistemas de salud, protección de datos, trazabilidad de dispositivos, acceso equitativo y supervisión humana. La persistencia del contexto puede aumentar la utilidad, pero también amplifica riesgos de exposición de información sensible, exceso de confianza y uso fuera de la supervisión clínica.

Se trata de una propuesta de marco de evaluación y gobernanza, no de un ensayo de eficacia clínica.

Su aportación es desplazar la pregunta de “¿responde bien?” a “¿se mantiene fiable y segura a lo largo del recorrido de una persona?”.

Fuente primaria: Yao Z., Yu H. “Patient journey evaluation for consumer AI health assistants”. npj Digital Medicine, Perspective, Article in Press. DOI: 10.1038/s41746-026-03251-8.

Nota editorial: Este contenido es divulgativo y no sustituye el consejo personalizado de un profesional sanitario.