Utah ha autorizado el uso de un algoritmo de inteligencia artificial para asistir en la renovación de prescripciones médicas, permitiendo que la tecnología actúe con autonomía similar a la de un profesional sanitario. Según la fuente, la aprobación se basó en evidencia generada por el propio desarrollador, sin validación externa independiente. Esta decisión ha generado preocupación entre asociaciones médicas y expertos, quienes advierten sobre los riesgos de aceptar evidencias sesgadas y la falta de mecanismos robustos de gobernanza. Más que el anuncio, lo relevante es el despliegue. El caso plantea una cuestión estructural: ¿cómo se redistribuye la capacidad de decisión clínica y regulatoria cuando la infraestructura tecnológica asume funciones tradicionalmente reservadas a profesionales humanos?

Qué se anunció y cuál es el alcance real

Según la fuente, Utah aprobó el uso de un sistema de IA desarrollado por Doctronic para renovar prescripciones médicas, permitiendo que el algoritmo actúe de forma autónoma en decisiones clínicas de alto impacto. La aprobación se basó en un preprint elaborado por la propia empresa desarrolladora, sin validación independiente. La American Medical Association y otros actores han señalado que este procedimiento no cumple los estándares habituales de evidencia exigidos en otros sectores regulados. No consta en la fuente información sobre mecanismos de supervisión externa, ni sobre la posibilidad de sustitución o reversión del sistema en caso de fallo. El alcance real, por tanto, se limita a la autorización en un contexto estatal, con una infraestructura controlada por el proveedor tecnológico y sin garantías de revisión independiente.

Para qué sirve en la práctica

El sistema de IA se utiliza para asistir en la renovación de prescripciones médicas, una tarea que implica integrar datos de historial clínico, comorbilidades, resultados de laboratorio, interacciones farmacológicas y guías clínicas actualizadas. Según la fuente, el objetivo es facilitar la toma de decisiones en un proceso clínico complejo y de alto riesgo. No se detallan ejemplos específicos de casos de uso más allá de la renovación de recetas. Tampoco se describen otros ámbitos de aplicación ni se aportan datos sobre la interacción directa con pacientes o profesionales. La función principal identificada es la automatización parcial o total de la decisión de renovar medicamentos, desplazando parte del control operativo desde el profesional humano hacia la infraestructura tecnológica.

Qué riesgos abre si se despliega mal

La fuente identifica varios riesgos estructurales. El primero es la dependencia de evidencia generada por el propio desarrollador, lo que introduce sesgos y limita la reproducibilidad y generalización de los resultados. Además, estudios citados muestran que el rendimiento de modelos de IA en entornos simulados no se traduce necesariamente en beneficios reales para pacientes: un modelo que acierta en el 94,9% de los casos simulados puede reducir su eficacia a menos del 34,5% en la práctica clínica real. También se señala el fenómeno de las ‘alucinaciones’, donde los modelos generan información clínica plausible pero incorrecta, sin que existan estrategias de mitigación plenamente efectivas. No consta la existencia de mecanismos de supervisión continuada ni de protocolos para revertir decisiones erróneas, lo que amplifica el riesgo institucional.

Qué condiciones mínimas deberían exigirse

Según la fuente, la validación independiente por parte de clínicos humanos es una condición mínima para cualquier sistema de IA que asuma funciones clínicas autónomas. No consta que Utah haya exigido este requisito en el caso analizado. Tampoco se detallan estándares técnicos, auditorías externas ni marcos regulatorios específicos aplicados al sistema. Como mínimo estructural, la evidencia utilizada para justificar el despliegue debería ser reproducible, generalizable y libre de conflictos de interés, y la infraestructura debería estar sujeta a supervisión externa y mecanismos de reversión. La ausencia de estos elementos constituye una brecha de gobernanza que puede comprometer la legitimidad y la seguridad del sistema.

Conclusión

Será una mejora institucional si la validación independiente se convierte en requisito previo y si se establecen mecanismos de supervisión externa sobre la infraestructura de IA. Puede no alcanzar los estándares de seguridad clínica si persisten las brechas en la evidencia y la ausencia de control externo. La evolución dependerá de la capacidad de los reguladores para definir y hacer cumplir criterios de gobernanza robustos. El dilema central sigue siendo quién conserva la capacidad de decisión clínica y regulatoria cuando la infraestructura tecnológica se vuelve crítica en el proceso asistencial.

Fuente: BMJ — https://www.bmj.com/content/392/bmj.s44/rr-0

Nota editorial: Contenido generado y estructurado con apoyo de un editor de IA de PorqueIA.com.