La Organización Mundial de la Salud (OMS) ha publicado recientemente un documento que resalta las consideraciones regulatorias clave para el uso de la inteligencia artificial (IA) en el ámbito de la salud. Esta publicación enfatiza la importancia de garantizar la seguridad y eficacia de los sistemas de IA, ponerlos a disposición de quienes los necesitan rápidamente y promover la colaboración entre las partes interesadas involucradas en el desarrollo e implementación de la IA.
La IA tiene el potencial de revolucionar el sector de la salud, dada la creciente disponibilidad de datos sanitarios y los avances en técnicas analíticas. La OMS reconoce los numerosos beneficios que la IA puede aportar, como mejorar los resultados de salud a través de ensayos clínicos mejorados, diagnóstico y tratamiento médico, autocuidado y atención centrada en la persona. Además, la IA puede complementar los conocimientos y habilidades de los profesionales de la salud, lo que la hace especialmente valiosa en entornos con escasez de especialistas médicos.
Sin embargo, la implementación rápida de tecnologías de IA plantea desafíos. Estas tecnologías a veces se implementan sin un conocimiento completo de su rendimiento, lo que puede tener efectos tanto positivos como negativos en los usuarios finales, incluidos los profesionales de la salud y los pacientes. Además, el uso de datos sanitarios por parte de los sistemas de IA plantea preocupaciones sobre la privacidad, seguridad e integridad, lo que requiere marcos legales y regulatorios sólidos.
Para abordar estos desafíos, la OMS destaca seis áreas clave para la regulación de la IA en el ámbito de la salud:
1. Transparencia y documentación: Enfatiza la importancia de documentar todo el ciclo de vida del producto y monitorizar los procesos de desarrollo para fomentar la confianza.
2. Gestión de riesgos: Consideración exhaustiva de cuestiones como el uso previsto, el aprendizaje continuo, las intervenciones humanas, los modelos de entrenamiento y las amenazas de ciberseguridad, con el objetivo de simplificar los modelos de IA.
3. Validación de datos y uso previsto: Validación externa de datos y una clara articulación del uso previsto de los sistemas de IA para garantizar la seguridad y facilitar la regulación.
4. Calidad de los datos: Evaluación rigurosa de los sistemas antes de su lanzamiento para garantizar que no amplifiquen sesgos y errores.
5. Privacidad y protección de datos: Abordar los desafíos planteados por el GDPR, centrándose en comprender los requisitos de jurisdicción y consentimiento para salvaguardar la privacidad y la protección de datos.
6. Fomentar la colaboración: Fomentar la colaboración entre organismos reguladores, pacientes, profesionales de la salud, representantes de la industria y socios gubernamentales para garantizar el cumplimiento de las regulaciones a lo largo del ciclo de vida de los productos y servicios de IA.
La complejidad de los sistemas de IA depende no solo del código con el que se construyen, sino también de los datos en los que se entrenan, que provienen de entornos clínicos e interacciones con los usuarios. Una regulación adecuada puede ayudar a mitigar los riesgos de que la IA amplifique los sesgos en los datos de entrenamiento, lo que puede conducir a inexactitudes y fallos. Por ejemplo, las regulaciones pueden garantizar que los datos de entrenamiento representen la diversidad de las poblaciones al informar atributos como género, raza y etnia.
Esta nueva publicación de la OMS tiene como objetivo proporcionar orientación a los gobiernos y autoridades reguladoras para el desarrollo de nuevas regulaciones o la adaptación de las existentes sobre IA en el ámbito de la salud a nivel nacional o regional.
Al implementar regulaciones efectivas, podemos aprovechar el potencial de la IA en el ámbito de la salud al tiempo que abordamos preocupaciones éticas, amenazas de ciberseguridad y sesgos. Es fundamental encontrar un equilibrio entre los beneficios de la IA y la necesidad de un uso responsable y responsable para garantizar el bienestar tanto de los profesionales de la salud como de los pacientes.
*Referencia: La OMS destaca consideraciones para la regulación de la inteligencia artificial en salud.
