IA clínica certificada, pero opaca: qué debe exigir un hospital antes de comprar

La certificación no resuelve la compra

Una certificación puede acreditar que existe documentación, pero no garantiza que esa documentación permita comparar tecnologías o comprender cómo se controlan sus riesgos. Un estudio publicado en npj Digital Medicine revisó los resúmenes públicos de gestión de riesgos de 35 desarrolladores de historias clínicas electrónicas sujetos a las reglas federales estadounidenses de transparencia para sistemas predictivos.

Todos los proveedores analizados estaban certificados. Sin embargo, la información variaba mucho en estructura, terminología y profundidad. Para un hospital, la diferencia es decisiva: saber que un producto ha superado un requisito formal no equivale a disponer de evidencia suficiente para decidir dónde usarlo, con qué población y bajo qué supervisión.

Qué reveló la revisión

El 71% de los desarrolladores describía su proceso general de análisis de riesgos y solo el 57% identificaba de forma explícita los riesgos concretos que vigilaba. En cambio, el 91% mencionaba una o más estrategias de mitigación y el 80% afirmaba contar con una estructura formal de gobierno.

Además, el 77% hacía referencia al menos una vez a los ocho atributos contemplados por el marco estadounidense: validez, fiabilidad, robustez, equidad, inteligibilidad, seguridad clínica, ciberseguridad y privacidad. El problema no era únicamente la ausencia de información. También había referencias breves o genéricas que dificultaban saber cómo se había evaluado cada atributo y con qué resultados.

Una lista mínima para la compra responsable

Antes de incorporar una IA integrada en la historia clínica, el comprador debería poder identificar su finalidad prevista, las poblaciones y centros de validación, el rendimiento por subgrupos, los fallos conocidos y los límites de generalización. También necesita conocer quién monitoriza el sistema después del despliegue, qué cambios obligan a reevaluarlo, cómo se notifican incidentes y quién puede suspender su uso.

La documentación debe permitir comparar productos y traducirse en controles locales: validación con datos propios, responsables nominales, indicadores de deriva y un procedimiento claro para que los profesionales cuestionen o reviertan una recomendación.

Lo que el estudio no demuestra

Los autores analizaron únicamente materiales públicos. Es posible que algunos proveedores dispongan de procedimientos internos más completos. Por eso el trabajo no permite concluir que los productos sean inseguros ni que sus modelos rindan mal. Sí muestra que la transparencia disponible para hospitales, clínicos y pacientes es heterogénea y, con frecuencia, insuficiente para una evaluación práctica.

La lección para Europa no es copiar sin más el sistema estadounidense. Es evitar que la conformidad documental se convierta en un sustituto de la evidencia, la vigilancia posdespliegue y la rendición de cuentas.

Fuentes y trazabilidad

Esta pieza se elabora a partir de las fuentes citadas. No sustituye la evaluación clínica, regulatoria ni de implementación local.