Cursos de doctorado de Universidad de Almería
IA médica explicable
Profesor: Jose M. Juarez, Universidad de Murcia
Resumen
En estes curso, presentaremos el campo de la Inteligencia Artificial médica y cómo abordar las principales preocupaciones de los médicos para adoptar tecnologías basadas en IA en la práctica clínica diaria.
El desarrollo de un sistema de IA fiable es multidisciplinario y requiere medidas éticas, legales y tecnológicas. Durante este tutorial, los estudiantes tendrán una visión general de las iniciativas existentes de la Unión Europea sobre el marco ético y legal relacionado con la IA en la atención médica (directrices éticas, RGPD, IA, dispositivos médicos). El curso revisará los métodos explicativos más populares en IA (por ejemplo, LIME, SHAP, saliencymaps), destacando sus ventajas e inconvenientes desde la perspectiva del profesional clínico. Para ilustrar los diferentes desafíos de la IA médica, este curso se basa en varios ejemplos obtenidos de la literatura reciente sobre IA y los campos médicos.
Objetivos
- Obtener una mejor comprensión de la aplicación de la IA en entornos sanitarios.
- Identificar los principales factores interdisciplinarios para un proyecto de IA fiable según las directrices de la UE.
- Conocer las ventajas y limitaciones de la IA explicable actual.
Materials, references and links
Slides & Materiales
Parte I: Informática Médica e Inteligencia Artificial
- Algorithm Watch: link
- Building Trust in AI: link
- EU Ethics Guidelines for Trustworthy AI: link
- Ethics and AI, prof Guido Boella. University of Turin - PhD online course organized by SIpEIA.
Parte II: Explicabilidad y Confianza en la IA
- SHAP [Lundberg-Lee2017]Scott Lundberg and Su-In Lee. A unified approach to interpreting model predictions. CoRR, abs/1705.07874, 2017. arXiv:1705.07874. GITHUB LIBRARY
- LIME [Ribeiro et al 2016] Ribeiro, Marco Tulio, Sameer Singh, and Carlos Guestrin. Why should I trust you?: Explaining the predictions of any classifier. Proceedings of the 22nd ACM SIGKDD international conference on knowledge discovery and data mining. ACM (2016). LIBRARY WEBSITE
- [Amann 2020] Amann, J., Blasimme, A., Vayena, E. et al. Explainability for artificial intelligence in healthcare: a multidisciplinary perspective. BMC Med Inform Decis Mak 20, 310 (2020). https://doi.org/10.1186/s12911-020-01332-6
- [Gu et al 2019] Gu J, Tresp V. Saliency methods for explaining adversarial attacks. arXiv 2019; published online Aug 22. http://arxiv.org/ abs/1908.08413 (preprint).
Otros links: Conferencias and workshops en XAI
- XAI-Healthcare: International Workshops on eXplainable AI in Healthcare LINK
- XAI world conference LINK
