Ponentes

Prof. Jose H. Orallo Director de Investigación, Leverhulme Centre for the Future of Intelligence Profesor de Investigación, Universidad de Cambridge Associate Fellow, Centre for Human-Inspired AI

Jose H. Orallo es Director de Investigación en el Leverhulme Centre for the Future of Intelligence, Universidad de Cambridge, Reino Unido, y catedrático (en excedencia parcial) en la Universitat Politècnica de València, España. Su actividad académica e investigadora ha abarcado varias áreas de la inteligencia artificial, el aprendizaje automático, la ciencia de datos y la medición de la inteligencia, con un enfoque en un análisis más profundo de las capacidades, generalidad, progreso, impacto y riesgos de la inteligencia artificial. Ha publicado cinco libros y más de doscientos artículos en revistas y congresos sobre estos temas. Su investigación en el área de la evaluación de la inteligencia artificial ha sido recogida por diversos medios de comunicación de referencia, como The Economist, WSJ, FT, New Scientist o Nature. Continúa explorando una visión más integrada de la evaluación de la inteligencia natural y artificial, tal y como defiende en su libro “The Measure of All Minds” (Cambridge University Press, 2017, PROSE Award 2018). Es fundador de aievaluation.substack.com y ai-evaluation.org. Es asesor de varias organizaciones, como averi.org o el panel científico de la Oficina de IA de la UE. Es miembro de AAAI, CAIRNE y ELLIS, y EurAI Fellow.

Web: jorallo.github.io — Scholar: Google Scholar — Email: josephorallo@gmail.com

Evaluación de la Inteligencia Artificial: ¿Y ahora qué?

Durante los últimos años, la evaluación de la inteligencia artificial ha pasado de las medidas agregadas de rendimiento en tareas específicas a los sistemas de propósito general, caracterizados por su perfil de capacidades y de propensiones. Determinar las demandas de las tareas y compararlas con el perfil de un sistema de IA permite predecir y explicar su comportamiento. Ese es el verdadero objetivo de la evaluación en IA. Cuando empezamos a entenderlo y a resolverlo, incluso en entornos agénticos, nuevos problemas llaman a la puerta. En seguridad, los entornos de evaluación o bien no son contenedores seguros o no son realistas. En capacidad, no sabemos imaginar tareas sobrehumanas de dificultad arbitraria que podamos verificar. ¿Y ahora qué? Propongo una mezcla de pragmatismo, asumiendo que los sistemas serán inseguros y habrá que monitorizarlos en todo momento, y de fundamentos, donde la suprainteligencia, las leyes de escalado y la supervisión sean entendidas computacionalmente. Quizás el progreso de la IA ha entrado en un ciclo ciego de realimentación, pero no podemos permitírnoslo con su evaluación.

Francisco Herrera es catedrático de Inteligencia Artificial en la Universidad de Granada, académico de número de la Real Academia de Ingeniería de España (2019), director fundador del Instituto Andaluz de Investigación en Ciencia de Datos e Inteligencia Computacional (DaSCI, 2017-2026), ha sido miembro del Consejo Asesor de Inteligencia Artificial (CAIA) del gobierno español (2021-2023), y es Académico Correspondiente de la Academia de las Ciencias de Cuba (2023). Es Director de la Cátedra ENIA en IA ética y responsable con la cofinanciación de REPSOL.

En el área de la Inteligencia Artificial ha dirigido más de 70 tesis doctorales, y ha sido director de más de 70 proyectos de investigación y de transferencia de conocimiento y ha publicado más de 700 artículos científicos en revistas internacionales. Sus publicaciones han recibido más de 190.000 citas con un índice h de 198 en Scholar Google. Está indexado en el listado de investigadores altamente citados a nivel mundial en “Computer Science” de Clarivate Analytics (2024-presente), y en la posición 10 del ranking mundial Research.com “Best Computer Science Scientists 2025-2026”. Ha recibido diversos premios y reconocimientos nacionales e internacionales a su investigación. Sus líneas de investigación actuales se centran en inteligencia artificial ética y confiable, explicabilidad de los sistemas de IA, y modelos de IA de propósito general.

El camino hacia una IA confiable: de la predicción a los sistemas agénticos

La conferencia presenta la evolución reciente de la inteligencia artificial desde los modelos predictivos, orientados al aprendizaje de patrones a partir de datos, hasta los sistemas generativos y agénticos, capaces de producir contenido, realizar inferencias, planificar, utilizar herramientas y ejecutar acciones con grados crecientes de autonomía. Esta evolución abre importantes oportunidades científicas, industriales y sociales, pero plantea una exigencia fundamental: no basta con desarrollar sistemas más capaces; es necesario garantizar que sean confiables.

A partir de hitos como Turing, el perceptrón de Rosenblatt, Deep Blue, el aprendizaje profundo, la IA generativa y la IA agéntica, se analizará cómo la cuestión central ha evolucionado desde «¿pueden pensar las máquinas?» hacia «¿bajo qué condiciones podemos confiar en sus resultados y acciones?». La conferencia abordará los principales retos científicos y técnicos para construir sistemas robustos, seguros, explicables, trazables, verificables y gobernables, con mecanismos adecuados de supervisión humana y control.

La próxima generación de IA no se definirá únicamente por su capacidad para predecir, generar o actuar, sino por nuestra capacidad para evaluar su comportamiento, supervisar su autonomía y garantizar que opere de manera segura y responsable.

Universidad Politécnica de Madrid, España

Concha Bielza es Catedrática del Departamento de Inteligencia Artificial de la Universidad Politécnica de Madrid (UPM) desde 2010. Es licenciada en Ciencias Matemáticas (especialidad Estadística) por la Universidad Complutense de Madrid (1989) y doctora en Informática por la Universidad Politécnica de Madrid (1996), con Premio Extraordinario de Doctorado.

Desde su creación en 2010, codirige el Computational Intelligence Group (CIG) de la UPM y fue codirectora de la ELLIS Unit Madrid en el periodo 2022-2024. Ha participado en 65 proyectos públicos de investigación, entre ellos el Human Brain Project de la Unión Europea, con una duración de diez años, y en 41 contratos de investigación con empresas como Telefónica I+D, Abbott, Banco de Santander, Panda Security, Repsol y ArcelorMittal. Es coinventora de una patente sobre adenocarcinoma de pulmón. Ha impartido 44 seminarios/conferencias invitadas y 11 ponencias plenarias en congresos internacionales. Ha formado parte de 94 comités de programa y ha organizado 19 eventos científicos, entre ellos como Program Chair de CAEPIA 2013 y Journal Track Chair de ECML-PKDD en 2015 y 2025. Es autora de más de 160 artículos científicos en revistas JCR y ha dirigido 24 tesis doctorales y 76 trabajos fin de máster. En los últimos años ha coescrito dos libros: Data-Driven Computational Neuroscience (Cambridge University Press, 2021) e Industrial Applications of Machine Learning (CRC Press, 2019), este último traducido al chino en 2023. Es editora asociada de las revistas Neuroinformatics y Frontiers in Computational Neuroscience. Asimismo, codirige la UPM Machine Learning and Advanced Statistics Summer School, que en 2026 ha celebrado su décimo octava edición y reúne cada año a más de 80 estudiantes internacionales.

Sus principales líneas de investigación se centran en los modelos gráficos probabilísticos (especialmente las redes bayesianas), análisis de decisiones, causalidad, interpretabilidad de los modelos, metaheurísticas para optimización, aprendizaje automático probabilístico, clasificación multietiqueta, clustering, modelos temporales, detección de anomalías, estadística espacial y direccional, estadística no paramétrica, y sus aplicaciones reales en dominios como biomedicina, bioinformática, neurociencia, industria 4.0, ciberseguridad, agricultura, deporte, calidad de servicio.

Entre sus principales reconocimientos figuran el Premio Nacional de Estadística (2024), Fellow de la Asia-Pacific Artificial Intelligence Association (2024), ELLIS Fellow (2023) y el Premio de Investigación de la Universidad Politécnica de Madrid (2014). Desde 2021 forma parte del Consejo Asesor Científico del Norwegian Research Center for AI Innovation (NorwAI), como única representante española. En 2025 presidió el proceso de evaluación del NNF Grand AI Challenge de la Novo Nordisk Foundation (Dinamarca) y fue nombrada experta externa para la selección de una nueva Max Planck School en Inteligencia Artificial.

Redes Bayesianas: de predicciones a explicaciones, causalidad y contrafactuales

Las redes bayesianas constituyen un marco probabilístico para representar y razonar bajo incertidumbre que ofrece mucho más que capacidad predictiva. En esta charla recorreremos, a través de diferentes preguntas, sus posibilidades para explicar el modelo, el proceso de inferencia, el papel de la evidencia y la toma de decisiones. A partir de este marco, daremos el salto del razonamiento probabilístico al causal, mostrando cómo las redes bayesianas causales y los modelos de ecuaciones estructurales permiten pasar de la observación a la intervención y al razonamiento contrafactual. Finalmente, presentaremos resultados recientes propios sobre explicaciones contrafactuales accionables, combinando redes bayesianas y planificación de caminos, y sobre explicaciones contrafactuales para grupos mediante transporte óptimo. Todo ello muestra cómo las redes bayesianas permiten ir más allá de comprender una predicción, planteando también qué podría cambiarse y cómo hacerlo.

Universitat Politècnica de València / Amazon Web Services

Rubén Ruiz es Científico Principal en Amazon Web Services (AWS) y profesor Catedrático de Universidad en excedencia en el Departamento de Estadística e Investigación Operativa Aplicadas y Calidad de la Universitat Politècnica de València. Es coautor de más de 100 artículos científicos en revistas internacionales y ha participado en más de 200 trabajos presentados en conferencias nacionales e internacionales. Es Académico Correspondiente de la Real Academia de Ciencias Exactas, Físicas y Naturales. Es editor en jefe de la revista de Elsevier Operations Research Perspectives (ORP) y coeditor de la revista European Journal of Industrial Engineering (EJIE), ambas revistas listadas en el Journal Citation Reports (JCR). También es editor asociado en revistas como TOP y miembro del comité editorial de varias revistas como European Journal of Operational Research y Computers and Operations Research. Fue director del grupo de investigación Sistemas de Optimización Aplicada (SOA) en el Instituto Tecnológico de Informática (ITI). Ha sido investigador principal de proyectos de investigación tanto públicos como financiados por empresas industriales. Sus intereses de investigación son la optimización en problemas de cloud computing, secuenciación y programación de la producción y los problemas de logística y distribución en entornos reales.

Óptimo pero inaplicable. La brecha entre la IO académica y la práctica

La Investigación Operativa lleva décadas optimizando lo que no toca. Perseguimos la optimalidad, premiamos la complejidad y construimos métodos ad-hoc para las más retorcidas variantes de cada problema imaginable, real o no.

La generalidad, la simplicidad y el mantenimiento no se valoran a la hora de publicar un artículo. En la práctica, en cambio, son exactamente los criterios que deciden si un modelo llega a producción o no.

Esta charla contrasta ambas culturas a partir de casos simples como el TSP o la asignación de millones de máquinas virtuales en Amazon Web Services EC2.

Las metaheurísticas se postularon inicialmente como una solución a este problema, pero el campo ha producido miles de algoritmos con no menos metáforas y de nuevo una enorme complejidad, dispersión y casi ningún software reutilizable. Frente al «pip install» del aprendizaje automático, cabe preguntarse dónde están nuestros frameworks. La charla propone algunas ideas de por dónde la IO debería ir para llegar a ser relevante en el futuro.

Prof. Ludovico Boratto Universidad de Cagliari, Italia

Ludovico Boratto es Profesor Titular (Associate Professor) de Ciencias de la Computación en la Universidad de Cagliari (Italia). Sus intereses de investigación se centran en los sistemas de recomendación y su impacto en los distintos actores implicados, considerando tanto métricas de precisión como métricas de evaluación más allá de la precisión. Es autor de más de 60 artículos y ha publicado su investigación en congresos y revistas de primer nivel.

Su actividad investigadora también le ha llevado a impartir charlas y tutoriales en congresos y centros de investigación de primer nivel (Yahoo! Research). Es editor del libro “Group Recommender Systems: An Introduction”, publicado por Springer. Es miembro del comité editorial de las revistas “Information Processing & Management” (Elsevier) y “Journal of Intelligent Information Systems” (Springer), y editor invitado de varios números especiales de revistas. Forma parte habitualmente de los comités de programa de las principales conferencias sobre la Web, en las que ha recibido ocho premios a la mejor contribución. En 2012 obtuvo su doctorado en la Universidad de Cagliari (Italia), donde fue investigador ayudante hasta mayo de 2016. Desde mayo de 2016 hasta abril de 2021, se incorporó a Eurecat como Senior Research Scientist en el grupo de investigación de Ciencia de Datos y Big Data Analytics. En 2010 y 2014 pasó diez meses en Yahoo! Research en Barcelona como investigador visitante. Es miembro de ACM e IEEE.

De la personalización a la capacidad de acción: repensar el control del usuario en los sistemas de recomendación

La personalización ha sido, en gran medida, un proceso unidireccional: los sistemas observan a los usuarios, infieren sus preferencias a partir de su comportamiento y deciden qué mostrarles a continuación. Este modelo ha hecho posibles servicios altamente adaptativos, pero deja sin resolver una pregunta fundamental: ¿cómo pueden los usuarios influir deliberadamente en los sistemas que configuran su experiencia en línea? Esta cuestión cobra cada vez más relevancia. El Reglamento de Servicios Digitales sitúa en primer plano la transparencia y la capacidad de los usuarios para influir en los sistemas de recomendación, mientras que la preocupación por el bienestar digital invita a las plataformas a apoyar los objetivos y la autonomía de los usuarios, en lugar de considerar su participación como único objetivo.

Los mecanismos de control actuales incluyen valoraciones y comentarios, la edición del perfil, los ajustes de temas o del feed, los modos alternativos de ordenación, las opciones para excluirse y, cada vez más, las instrucciones en lenguaje natural. Sin embargo, ofrecer control no equivale necesariamente a permitir ejercerlo de manera efectiva. Estos mecanismos pueden estar ocultos, ser demasiado generales, exigir un esfuerzo cognitivo elevado, guardar poca relación con los resultados observables o ser incapaces de representar preferencias contextuales, inciertas y cambiantes. El uso limitado de estos controles no debería interpretarse automáticamente como prueba de que los usuarios no desean tener capacidad de acción; puede revelar, más bien, el escaso margen de influencia real que ofrecen los diseños actuales. La investigación también sugiere que la transparencia, por sí sola, no garantiza esa capacidad de acción y que el control resulta más valioso cuando permite influir de manera significativa en los resultados del sistema.

Esta charla repasa las formas existentes de control del usuario y examina la brecha entre el control formal y el control efectivo. Concluye planteando una agenda de investigación abierta: ¿cómo pueden los sistemas ayudar a las personas a formular sus objetivos en condiciones de incertidumbre, traducir sus intenciones en cambios efectivos y verificables, comunicar sus efectos y los compromisos que implican, y facilitar la corrección y la revisión? ¿Cómo deberíamos evaluar el control más allá de las percepciones declaradas por los propios usuarios, y conciliar sus objetivos con los de las plataformas y con los efectos sobre otros agentes implicados? Responder a estas preguntas exige pasar de una personalización que se aplica a los usuarios o se realiza en su beneficio a otra que estos puedan examinar, cuestionar y orientar de forma significativa.

Sin fuzzy no hay paraíso

Los sistemas con IA se basan en sofisticadas técnicas de optimización para entrenar modelos, ajustar parámetros y garantizar la solidez en la toma de decisiones. A medida que los modelos aumentan en tamaño y complejidad y se implementan cada vez más en entornos del mundo real, la necesidad de optimizar bajo restricciones —ya sea por limitaciones de datos, consideraciones contextuales o requisitos de interpretabilidad— se ha vuelto más acuciante. Cuando, además, las fuentes de información disponibles son verbales, o provenientes directamente de expresiones lingüísticas, los modelos de optimización que hay que considerar tienen que incorporar herramientas propias del campo de los conjuntos y sistemas difusos, salvo que no se esté interesado en obtener las mejores soluciones disponibles para cada caso sino simplemente en proponer una solución. En esta charla conectaremos la decisión con la optimización y realizaremos un recorrido por los más importantes problemas de optimización difusos, desde los más elementales y bien conocidos hasta los que aún están por estudiar y explorar en sistemas automatizados de decisión.