Profesionales médicos han advertido en BMJ sobre los riesgos legales y éticos asociados al uso de software de IA generativa para la transcripción clínica, especialmente en lo relativo a la protección de datos de pacientes y la claridad en la asignación de responsabilidades bajo el marco del GDPR. El debate se centra en la opacidad sobre el uso de datos por parte de proveedores, la posibilidad de memorizar información sensible y la dependencia de infraestructuras externas. Más que el anuncio, lo relevante es el despliegue. La cuestión de fondo es cómo se redistribuye el control sobre los datos y la toma de decisiones clínicas cuando la infraestructura tecnológica es operada por agentes externos o bajo modelos comerciales, y qué alternativas institucionales pueden mitigar estos riesgos.

Qué se anunció y cuál es el alcance real

Según la fuente, la carta publicada en BMJ no anuncia un despliegue concreto, sino que alerta sobre las consecuencias no intencionadas del uso de software de transcripción clínica basado en IA generativa. Se destaca que, aunque las empresas proveedoras publicitan medidas de cifrado y protección frente a accesos externos no autorizados, no siempre es transparente el alcance del uso de los datos por parte de las propias compañías. Bajo el GDPR, las organizaciones sanitarias del NHS actúan como responsables del tratamiento, mientras que los proveedores deberían limitarse a ser procesadores siguiendo instrucciones documentadas. Sin embargo, la reutilización de audios o transcripciones para entrenar modelos puede desplazar la responsabilidad hacia una corresponsabilidad legal y ética. No consta en la fuente la existencia de mecanismos de supervisión independientes ni detalles sobre auditorías técnicas externas.

Para qué sirve en la práctica

El uso de IA generativa en la transcripción clínica permite convertir conversaciones médico-paciente en registros escritos de forma automatizada. Según la fuente, los sistemas de ambient scribe pueden facilitar la documentación clínica y reducir la carga administrativa sobre el personal sanitario. No se detallan ejemplos específicos de implementación, pero se menciona la integración potencial con sistemas de historia clínica electrónica de código abierto como openMRS. También se señala la posibilidad de procesar los datos localmente, ya sea en centros de datos públicos o en las propias instalaciones sanitarias, como alternativa a la externalización completa del servicio.

Qué riesgos abre si se despliega mal

La fuente identifica varios riesgos estructurales: la opacidad en el uso de los datos por parte de proveedores, la posibilidad de que los modelos de IA memoricen y reproduzcan información sensible, y la vulnerabilidad a ataques de manipulación de los sistemas generativos. Se advierte que el cifrado no garantiza la imposibilidad de usos indebidos internos. Además, la dependencia de proveedores externos puede derivar en costes crecientes y pérdida de soberanía sobre los datos, especialmente si el procesamiento se realiza fuera del país o bajo legislaciones diferentes. No consta información sobre mecanismos de reversibilidad o sustitución de la infraestructura una vez desplegada.

Qué condiciones mínimas deberían exigirse

Según la fuente, la guía del NHS exige el cumplimiento de requisitos formales como DCB0160 y DCB0129 antes del despliegue. Se sugiere que alternativas tecnológicas sin ánimo de lucro, con código abierto y procesamiento local, permitirían mayor transparencia y control institucional. No se detallan estándares técnicos específicos ni procedimientos de supervisión continua. Como condiciones mínimas generales, se desprende la necesidad de transparencia en el uso de datos, control institucional efectivo sobre la infraestructura y capacidad de auditar y revertir el sistema en caso de incidentes o cambios de proveedor.

Conclusión

Será una mejora institucional si se garantiza la transparencia en el uso de datos y el control efectivo por parte de las organizaciones sanitarias. Puede no alcanzar una protección adecuada si persiste la opacidad sobre el uso interno de los datos por parte de proveedores externos. La evolución dependerá de la capacidad de las instituciones para supervisar y, en su caso, sustituir la infraestructura tecnológica. El dilema central es quién mantiene la capacidad de decisión sobre los datos y procesos clínicos cuando la infraestructura de IA se convierte en un elemento crítico del sistema sanitario.

Fuente: BMJ — https://www.bmj.com/content/390/bmj-2025-085754/rr

Nota editorial: Contenido generado y estructurado con apoyo de un editor de IA de PorqueIA.com.