El proyecto CAPSUL-IA presentó sus avances más recientes en el evento “Trustworthy AI in Safety-Critical Systems: Overcoming Adoption Barriers”, un evento internacional organizado por el proyecto europeo SAFEXPLAIN el 23 de septiembre 2025 que reunió a cerca de 60 expertos de Europa y Asia. El evento se consolidó como un espacio de referencia para la difusión de resultados e intercambio de conocimiento en torno a la IA segura y explicable.
Durante la sesión de pósteres, socios de CAPSUL-IA Barcelona Supercomputing Center, representado por Dr Enrico Mezzetti e IKERLAN, representado por Dr. Javier Fernandez, expusieron el enfoque del proyecto y sus progresos en la adopción industrial de soluciones basadas en IA, así como el trabajo hecho para bajar estas barreras de entrada mediante la implementación de cápsulas como arquetipos de aplicaciones y configuraciones reutilizables. El evento brindó una oportunidad única de visibilidad y validación ante una audiencia especializada.
El póster de CAPSUL-IA destacó los principales retos asociados a la incorporación de IA en la industria. Además, se presentaron los resultados iniciales y las expectativas vinculadas a estos arquetipos de cápsulas y los demostradores, que servirán de base para acelerar la adopción de la IA en los sistemas industriales.
En este marco, el BSC contribuye a CAPSUL-IA en dos áreas claves:
- Mejorar la explicabilidad de la IA y la incertidumbre sobre los datos y modelos para cubrir diversos requisitos funcionales y no funcionales en las cápsulas de IA
- Soportar a nivel de plataforma en términos de configuración del sistema para respaldar la ejecución de las cápsulas cumpliendo sus requisitos de rendimiento, segregación y portabilidad.
De manera complementaria, IKERLAN contribuye a varios de los objetivos del proyecto, con un foco especial en la mejora de la explicabilidad (XAI) y en la seguridad funcional de los sistemas que incorporan tecnologías basadas en modelos de IA. Su trabajo se orienta a la definición de un ciclo de desarrollo seguro y en su gestión desde la perspectiva de la seguridad, proponiendo el uso de patrones arquitecturales seguros adaptados a distintos niveles de capacidad, de acuerdo con la normativa ISO/TR 5469, en función del grado de uso de la IA. De esta manera, cuanto mayor es el papel de la IA en la implementación de funcionalidades críticas para la seguridad, más restrictivos son los patrones y mayor es el número de mecanismos de diagnóstico y monitorización requeridos.
La participación de CAPSUL-IA en este evento de SAFEXPLAIN refuerza el compromiso del consorcio con la creación de soluciones de IA confiables, explicables y segura, y evidencia la relevancia del proyecto en el ecosistema europeo de innovación.
Francisco J. Cazorla, Director del Laboratorio HPES (High-Performance Embedded Systems) del BSC
Agradecimientos
Proyecto MIG-20232044, subvencionado por el CDTI – Centro de Desarrollo Tecnológico Industrial, apoyado por el Ministerio de Ciencia e Innovación, y aprobado en la convocatoria para el año 2023 del procedimiento de concesión de ayudas destinadas a “Misiones de Ciencia e Innovación” en el marco de la iniciativa TransMisiones 2023, en el ámbito del Programa Estatal para Catalizar la Innovación y el Liderazgo Empresarial del Plan Estatal de Investigación Científica y Técnica y de Innovación 2021-2023.
Proyecto PLEC2023-010240 financiado por MICIU/AEI/10.13039/501100011033:
