A pesar de muchos esfuerzos, pocos modelos de IA han sido desplegados en entornos críticos. Un ejemplo clásico es el de los coches autónomos, ya que, pese a una enorme inversión, los vehículos en las calles siguen teniendo una autonomía muy básica. En esta charla sugiero que la principal limitación que nos impide desplegar IA radica en la dificultad para construir suficiente confianza en el sistema. Para superar esta limitación y permitir que los beneficios de la IA lleguen a los usuarios, debemos adoptar una visión holística del problema y utilizar nuestras herramientas como ingenieros para diseñar nuestras IA de manera que maximicen esa confianza. En mi exposición, utilizaré mi experiencia en tecnología médica para identificar deficiencias comunes al implementar IA crítica y aprovecharé algunos ejemplos para facilitar una discusión sobre cómo podemos superar estas deficiencias.
Manuel Martínez es un experto en el desarrollo de tecnología de inteligencia artificial en el ámbito de la salud. Posee un título en Telecomunicaciones de la UPC y completó un máster en Robótica en Carnegie Mellon, seguido de un doctorado en el Instituto Karlsruhe de Tecnología (KIT) con una tesis sobre el uso de visión por computador para monitorizar la calidad del sueño. Durante sus 12 años como investigador en el KIT, contribuyó significativamente al avance de campos como la robótica, la compresión de datos, cámaras de profundidad, la inteligencia artificial y tecnología asistiva, con más de 35 publicaciones en revistas y conferencias internacionales. Además, organizó cursos prácticos y colaboraciones con startups, buscando llevar las investigaciones del laboratorio a la práctica.
Actualmente, Manuel ejerce como arquitecto senior de inteligencia artificial en Philips, liderando el desarrollo de nuevas tecnologías para el monitoreo de signos vitales. Su enfoque práctico y conocimiento técnico lo hacen destacar en el campo de la salud digital y la inteligencia artificial.