«Los sistemas de IA generativa pueden ser una palanca de mejora para fomentar la calidad en el sistema sanitario», afirma el Ministerio de Salud de Francia en una serie de recomendaciones.
Pero «para ello, deben utilizarse de forma razonada, en beneficio de las personas y para apoyar a los profesionales», advierte la autoridad independiente, cuyos dictámenes sirven de marco para las políticas sanitarias en Francia.
Estas herramientas, entre las que se encuentra el asistente ChatGPT de la empresa OpenAI, con 800 millones de usuarios semanales, constituyen una importante innovación tecnológica y ahora se utilizan ampliamente en el día a día para múltiples fines.
Un apoyo, no un sustituto
Por lo tanto, la autoridad sanitaria francesa ha estudiado el tema de su uso en el ámbito de la salud. Considera que pueden servir para fines muy diversos: resumir la literatura científica sobre un tema determinado, ayudar a los centros a gestionar sus recursos, traducir cierta información en términos claros para los pacientes, etc.
Pero también hace un llamamiento a la máxima vigilancia, recordando, por ejemplo, la capacidad de las herramientas de IA para «alucinar», es decir, para presentar como ciertas afirmaciones que no se corresponden con la realidad.
Por lo tanto, se recomienda, en particular, a los profesionales sanitarios que comprueben siempre las fuentes utilizadas por la IA y que «las consulten siempre que sea necesario para conocer su contenido y verificarlas con otras fuentes fiables».
Confidencialidad y autonomía en juego
También destaca la importancia de la confidencialidad con respecto a los pacientes: es necesario «verificar en cada una de las solicitudes que no se comparta ninguna información que permita la identificación directa o indirecta o que sea confidencial desde el punto de vista médico».
Recomienda, sobre todo, no confiar plenamente en la IA, para no descuidar las propias competencias: «Así, una enfermera de recepción de un servicio de urgencias que utilice un sistema de IA generativa para ayudarla a clasificar a los pacientes, pero que mantenga una parte de la clasificación sin esta ayuda, podrá realizar dicha clasificación incluso si el sistema falla», cita como ejemplo.
Este documento es una primera base de trabajo, pero el país galo prevé otros. Las futuras recomendaciones se dirigirán directamente a los pacientes, ya que muchos usuarios utilizan herramientas de IA para responder a preguntas sobre su salud, con el riesgo de obtener opiniones poco fiables.
