Es innegable que la rápida evolución de la inteligencia artificial (IA) ha cambiado gran parte de los procesos empresariales, automatizando tareas y encadenando trabajos. Por otro lado, es importante saber que estos cambios no han sido repentinos, sino que se han ido acumulando rápidamente a partir del desarrollo de arquitecturas profundas que se introdujeron ya en 2012.

A lo largo de estos años, los modelos desarrollados han sido más precisos y/o más generales. Sin embargo, su rápida evolución y la mejora significativa en resultados ha provocado que hayan pasado a utilizarse en entornos de producción tras un plazo de revisión muy corto, y para el que no se han tenido en cuenta aspectos tan importantes como su ciberseguridad.

La Unión Europea ha demostrado una gran preocupación sobre este aspecto en particular, debido principalmente a tres motivos: a la vulnerabilidad de los ciudadanos y el riesgo sobre sus derechos fundamentales, al despliegue en entornos críticos o de alto riesgo, y a la cada vez más alta dependencia de gigantes tecnológicos no europeos como suministradores de modelos de IA. Por esos motivos, se ha desarrollado un marco conceptual para la confiabilidad de la IA y un reglamento específico, el AI Act, que regula el uso de IA, haciendo hincapié en los requisitos asociados a distintos niveles de riesgo y especificando incluso usos prohibidos.

Vicomtech es un centro tecnológico que desde sus inicios trata de mejorar la eficiencia de los sectores productivos mediante la aplicación de las tecnologías de interacción avanzada e inteligencia artificial, y ya en 2019 fuimos pioneros en Europa participando en el programa SAFAIR para la seguridad de la IA dentro de la red de competencias de ciberseguridad europea SPARTA.

Desde ese momento, hemos comprobado la falta de confiabilidad de la mayor parte de modelos de ‘machine learning’, ya que rara vez ha sido un requisito de diseño o entrenamiento. Con el objetivo de concienciar y mejorar la seguridad de los modelos, planteamos una aproximación técnica basada en métricas objetivas que permiten no solo comparar la robustez, la privacidad y la equidad de dos modelos que resuelvan el mismo problema, sino también diferentes versiones de un modelo, o incluso validar el cumplimiento de un determinado umbral de riesgo cuando sea necesario.

Este conocimiento ha sido integrado en nuestra librería de software Neuralstrength©, cuyas métricas resultan útiles tanto para las pruebas de confiabilidad de nuevos modelos para empresas desarrolladoras, como la validación de modelos suministrados por terceros en el caso de los usuarios. Nuestra tecnología permite también desplegar mecanismos de defensa para los aspectos más débiles, reduciendo costes de adaptación.

La investigación de Vicomtech favorece el alineamiento con la cultura y valores de seguridad europeos, y lo hace ofreciendo nuestra tecnología, Neuralstrength©, al tejido industrial y los usuarios de IA. Con ello, contribuimos a mejorar su confiabilidad de forma tangible y objetiva, así como al desarrollo y la adopción de una IA europea robusta capaz de transformar nuestra sociedad respetando nuestros derechos fundamentales y salvaguardando la seguridad de nuestros sectores críticos.