Las métricas automáticas no bastan para evaluar mensajes clínicos generados por IA

Parecerse no significa responder bien

Los copilotos de mensajería suelen evaluarse comparando el texto generado con el texto enviado. Pero la similitud puede premiar palabras comunes sin captar contexto, empatía, precisión o seguridad.

UCLA aprovechó un despliegue escalonado: unos borradores se mostraban al profesional y otros se generaban silenciosamente. Ese segundo grupo permitió compararlos con respuestas humanas independientes.

Muchos borradores, poca incorporación

El estudio reunió 21.073 borradores visibles y 45.127 silenciosos. Solo 2.264 visibles terminaron incorporados con alta similitud semántica. En el grupo silencioso, los médicos independientes prefirieron claramente las respuestas humanas.

BERTScore mide proximidad semántica, no si el mensaje responde a la intención del paciente, reconoce incertidumbre o da instrucciones seguras. No se correlacionó con la preferencia profesional.

Cómo evaluar un copiloto clínico

La evaluación debería combinar aceptación y edición con corrección, omisiones, acción recomendada, personalización, empatía, carga cognitiva y necesidad de seguimiento. También debe medir tiempo y errores que llegan al paciente.

El estudio procede de un solo sistema, con 30 médicos y sin desenlaces de pacientes. No invalida las métricas automáticas: muestra que ninguna debería sustituir la evaluación clínica y humana.