El organismo regulador del sector británico afirma que el Reino Unido necesita nuevas regulaciones para los productos de IA utilizados en el NHS y otros entornos sanitarios.
La Agencia Reguladora de Medicamentos y Productos Sanitarios (MHRA, por sus siglas en inglés), que regula todos los dispositivos médicos y autoriza los medicamentos para tratamientos en el Reino Unido, ha publicado 44 recomendaciones para actualizar sus políticas ante el creciente uso de la IA en el sector.
El director de la MHRA, Lawrence Tallon, declaró a la BBC que esta tecnología pronto se utilizará de forma rutinaria en el NHS (Servicio Nacional de Salud del Reino Unido).
«Lo que espero es que los pacientes… vean cada vez más la IA como parte de la forma en que se presta la atención médica normal del NHS», dijo.
«Eso debería suceder de manera que puedan mantener su confianza en lo que está ocurriendo.»
El informe fue elaborado por una comisión independiente y contó con la participación de más de 12.000 personas, entre pacientes y profesionales sanitarios.
Las recomendaciones incluyen:
«El marco regulatorio de los dispositivos médicos data principalmente de una época en la que pensábamos en cosas como prótesis de cadera y rodilla, o en cosas más pequeñas como estetoscopios y tiritas», dijo Tallon.
Añadió que, si bien las directrices actuales pueden funcionar para productos de IA sencillos entrenados para detectar síntomas conocidos en escáneres, por ejemplo, las reglas no se aplican a modelos más complejos.
«A diferencia de la mayoría de los productos médicos que solemos regular, estos productos siguen cambiando después de su autorización», afirmó.
«A medida que se incorporan nuevos datos, aprenden, se adaptan, cambian de rumbo.»
Y reconoció que tratar de regular la IA es un desafío global.
«No creo que en este momento podamos señalar a un solo país, a un solo marco regulatorio, y decir que lo han resuelto por completo», dijo.
‘No quiero hablar con un robot’
Según se informa, el 40% de los médicos de cabecera del Reino Unido utilizan sistemas de toma de notas basados en inteligencia artificial, conocidos como escribas, que funcionan con LLM, para registrar las consultas y generar informes.
Sin embargo, un estudio reciente de la Universidad de Edimburgo descubrió que los pacientes podrían ser menos propensos a compartir información personal, como su historial de abuso de sustancias, si supieran que la conversación está siendo procesada por inteligencia artificial.
La profesora Henrietta Hughes, médica de cabecera que formó parte de la comisión que elaboró el informe, afirmó que muchos de sus pacientes estaban de acuerdo con el uso de la IA durante sus consultas, pero algunos optaron por no participar.
«Algunos dicen: ‘No quiero hablar con un robot’, y eso también está bien», dijo.
El profesor Hughes reconoció que los escribas podían cometer errores en sus notas, pero afirmó que era responsabilidad de los médicos corregirlos.
Si bien actualmente es más probable que la IA se utilice para ayudar con tareas administrativas o para realizar la detección de síntomas bajo la supervisión de un experto humano, existe un gran entusiasmo por su potencial en las industrias de la salud y la investigación médica.
El profesor Alastair Denniston, oftalmólogo que también participó en la elaboración del informe, describió la tecnología como «una oportunidad excepcional» para la atención médica, que «probablemente se situará al mismo nivel que avances revolucionarios como los antibióticos y la resonancia magnética».
En septiembre, René Haas, director de la empresa diseñadora de chips Arm, declaró a la BBC que creía que esta tecnología permitiría encontrar una cura para el cáncer «en el transcurso de nuestra vida».
Pero también existen preocupaciones sobre la posibilidad de que los modelos de IA tomen decisiones erróneas como resultado de sesgos en los datos de los pacientes utilizados para entrenarlos, y sobre los consejos médicos incorrectos que puedan brindar los chatbots de IA.