Skip to main content

IKERLAN brings its approach to trustworthy AI in safety-critical systems to the 16th International TÜV Rheinland Symposium 

IKERLAN presented its latest results on integrating functional safety and cybersecurity for trustworthy Artificial Intelligence at the 16th International TÜV Rheinland Symposium on Functional Safety & Cybersecurity in Industrial Applications, held at Cologne in September. The talk, «Integrating Functional Safety and Cybersecurity for Trustworthy AI in Safety-Critical Systems», was given by Lorea Belategi and Irune Agirre. 

AI is increasingly embedded in autonomous functions, advanced perception, diagnostics and decision-support. Its data-driven, non-deterministic behaviour challenges established functional safety lifecycles and enlarges the cybersecurity attack surface. The key message: process adaptation alone is not enough; new technical solutions are also needed to make AI certifiable, resilient and operationally trustworthy. 

The presentation covered four lines of work: 

  • A lifecycle for AI functional safety (AI-FSM). An extension of the classical V-model that adds operational design domain (ODD) specification, data management, model training and verification, and in-operation monitoring, keeping traceability between safety requirements and learned behaviour. 
  • A reference safety architecture. A layered pattern combining diverse redundancy, diagnostics and monitoring at several levels, and a supervision function that feeds a safety control block able to drive the system to a safe state. Selected checksum-protected matrix operations reached up to 100% diagnostic coverage with under 1% performance impact. 
  • AI verification and validation beyond conventional testing. Robustness assessed at input level (fuzzing, adversarial attacks), operation level (fault injection) and model level (mutation testing). 
  • Safety and security, together. Data poisoning, model manipulation, adversarial inputs and supply-chain compromises mean that a security breach can directly undermine a safety goal. The talk argued for secure-by-design principles, joint risk analysis, continuous vulnerability assessment and runtime monitoring shared by both disciplines. 

They shared key results and ongoing research Capsul-IA project, addressing the challenges involved in developing safe, secure and trustworthy AI-enabled systems.

IKERLAN presenta su enfoque para una IA confiable en sistemas críticos para la seguridad en el 16.º Simposio Internacional de TÜV Rheinland 

IKERLAN presentó sus últimos resultados sobre la integración de la seguridad funcional y la ciberseguridad para una Inteligencia Artificial (IA) confiable en el 16.º Simposio Internacional de TÜV Rheinland sobre Seguridad Funcional y Ciberseguridad en Aplicaciones Industriales, celebrado en Colonia en septiembre. La ponencia, «Integrating Functional Safety and Cybersecurity for Trustworthy AI in Safety-Critical Systems», corrió a cargo de Lorea Belategi e Irune Agirre. 

La IA está cada vez más presente en funciones autónomas, percepción avanzada, diagnóstico y apoyo a la decisión. Su comportamiento no determinista y basado en datos cuestiona los ciclos de vida de seguridad funcional establecidos y amplía la superficie de ataque en ciberseguridad. El mensaje clave: adaptar los procesos no es suficiente; también hacen falta nuevas soluciones técnicas para lograr una IA certificable, resiliente y fiable en operación. 

La presentación abordó cuatro líneas de trabajo: 

  • Un ciclo de vida para la seguridad funcional de la IA (AI-FSM). Una extensión del modelo en V clásico que incorpora la especificación del dominio de diseño operativo (ODD), la gestión de datos, el entrenamiento y la verificación del modelo y la monitorización en operación, manteniendo la trazabilidad entre los requisitos de seguridad y el comportamiento aprendido. 
  • Una arquitectura de seguridad de referencia. Un patrón por capas que combina redundancia diversa, diagnósticos y monitorización en varios niveles, y una función de supervisión que alimenta un bloque de control de seguridad capaz de llevar el sistema a un estado seguro. Algunas combinaciones de operaciones matriciales protegidas con checksums alcanzaron hasta un 100 % de cobertura de diagnóstico con un impacto inferior al 1 % en el rendimiento. 
  • Verificación y validación de IA más allá del test convencional. Robustez evaluada a nivel de entrada (fuzzing, ataques adversarios), de operación (inyección de fallos) y de modelo (mutation testing). 
  • Seguridad funcional y ciberseguridad, de forma conjunta. El envenenamiento de datos, la manipulación de modelos, las entradas adversarias y los ataques a la cadena de suministro hacen que una brecha de ciberseguridad pueda comprometer directamente un objetivo de seguridad. La ponencia defendió el diseño seguro desde el origen, el análisis de riesgos conjunto, la evaluación continua de vulnerabilidades y una monitorización en tiempo de ejecución compartida por ambas disciplinas. 

Compartieron resultados clave e investigación en curso del proyecto Capsul-IA, abordando los retos del desarrollo de sistemas con IA seguros, protegidos y confiables. 

IKERLAN presents “Memory Bandwidth Regulation for Time-constrained Containerized Applications” at the 29th International Conference on DSD 

IKERLAN took an active part in DSD 2026, held in Kraków (Poland) from 2 to 4 September 2026. DSD is one of the world’s leading conferences in the field of digital systems. 

Our colleague Jon Altonaga attended the conference to present the paper “Memory Bandwidth Regulation for Time-constrained Containerized Applications”. 

During the technical sessions, Jon Altonaga presented the work, which will be published in the conference proceedings. With this research, the authors aim to bring memory bandwidth regulation techniques to applications deployed in software containers, a key step towards guaranteeing temporal isolation in mixed-criticality systems. The work is an important contribution to the project’s goal of accelerating the industrial adoption of encapsulated, configurable, AI-based solutions that lower the barrier to entry for industry. 

Taking part in DSD 2026 was an excellent opportunity to disseminate part of the CAPSUL-IA work and to exchange experiences and perspectives with other research initiatives focused on mixed-criticality and real-time systems. 

IKERLAN presenta “Memory Bandwidth Regulation for Time-constrained Containerized Applications” en la 29.º Conferencia Internacional de DSD. 

IKERLAN ha participado activamente en DSD 2026, que tuvo lugar en Cracovia (Polonia) del 2 al 4 de septiembre de 2026. DSD es una de las conferencias líderes a nivel mundial en el campo de los sistemas digitales. 

Nuestro compañero Jon Altonaga ha asistido a la conferencia, con motivo de la presentación del artículo “Memory Bandwidth Regulation for Time-constrained Containerized Applications”. 

Durante las sesiones técnicas, Jon Altonaga presentó el trabajo que será publicado como parte de los proceedings de la conferencia. Con sus desarrollos, los autores pretenden acercar las técnicas de regulación del ancho de banda de memoria a aplicaciones desplegadas en contenedores de software, clave para garantizar la independencia temporal en sistemas de criticidad mixta. El trabajo supone una importante contribución en los objetivos del proyecto; acelerar la adopción industrial de soluciones encapsuladas y configurables, basadas en IA, que permiten reducir la barrera de entrada para la industria. 

La participación en DSD 2026 ha supuesto una excelente oportunidad para difundir parte del trabajo de CAPSUL-IA, así como para intercambiar experiencias y puntos de vista con otras iniciativas de investigación centradas en sistemas de criticidad mixta y tiempo real.

Jon Altonaga – Doctorando

Agradecimientos

Proyecto MIG-20232044, subvencionado por el CDTI – Centro de Desarrollo Tecnológico Industrial, apoyado por el Ministerio de Ciencia e Innovación, y aprobado en la convocatoria para el año 2023 del procedimiento de concesión de ayudas destinadas a “Misiones de Ciencia e Innovación” en el marco de la iniciativa TransMisiones 2023, en el ámbito del Programa Estatal para Catalizar la Innovación y el Liderazgo Empresarial del Plan Estatal de Investigación Científica y Técnica y de Innovación 2021-2023. #PRTR #PlanDeRecuperación # MRR #NextGen #NextGeneration #NextGenerationEU #NGEU #AyudasCDTI

 Proyecto PLEC2023-010240 financiado por MICIU/AEI/10.13039/501100011033:

Leave a Reply