El físico que enseña a pensar a las máquinas

Roi Naveiro es una rara avis , una de esas personas capaces de comprender el futuro y, por ello, de anticiparse a él. Licenciado en Física, su vida profesional está unida al Instituto de Ciencias Matemáticas (ICMAT), donde trabaja en una disciplina que, según él mismo destaca. tiene poco que ver con la física. Este jovencísimo leonés genera algoritmos de machine learning aplicados a la detección de fraude, lo que en sus propias palabras se traduce como un área denominada aprendizaje máquina adversario. «Mi objetivo es conseguir algoritmos que desempeñen tareas de seguridad, como la detección de spam, y que además sean robustos frente a adversarios inteligentes que pretenden engañarlos. Este campo aún está abierto y solo se habla de él en el mundo académico», explica, no sin antes asegurar con humildad que es un aprendiz, «no un experto en ninguna de las áreas en las que trabajo».

Roi Naveiro incide en que a pesar de que las aplicaciones de este nuevo mundo están por llegar, comienza a ser el centro de atención debido al indudable hecho de que las máquinas desempeñan cada vez más tareas y, lo que resulta más importante, de mayor importancia, con lo que es imprescindible que no se dejen engañar. «Las consecuencias podrían ser catastróficas», advierte, y pone como ejemplo el caso de los coches autónomos: «Imagínese que el visor del coche muestra la imagen de unos peatones. Esta imagen es procesada por un algoritmo que les reconoce y le hace frenar, pero si un adversario es capaz de hackear el sistema del vehículo, podría añadir a la imagen un ruido, imperceptible al ojo humano que haga desaparecer a los peatones, con lo que serían atropellados», advierte.

Es decir, Roi Naveiro desarrolla algoritmos de ciberseguridad que logren distinguir y detectar la presencia de adversarios con intenciones maliciosas. Es el caso de la seguridad computacional, que incluye detección de malware, spam, e incluso de fraude. Además, el físico leonés detalla que en el ICMAT también investigan en el área de reconocimiento biométrico —reconocimiento facial o clasificación de huellas dactilares— que es muy útil en tareas como la de desbloquear un teléfono móvil a través de un algoritmo que ha aprendido a reconocer la cara de una persona. «En este caso, la pregunta que deberíamos hacernos es si un tercero podría desbloquear el teléfono utilizando una fotografía», advierte.

Todo lo explicado lleva a Roi Naveiro a subrayar que sí, por supuesto, es necesario el desarrollo urgente de herramientas que garanticen la aplicación segura de la Inteligencia Artificial debido a la explosión que esta tecnología ha sufrido en los últimos años. Sin embargo, el físico leonés admite que la importancia que se le da ahora al adversarial machine learning, es mínima comparada con la que se le dará en pocos años.

"Las máquinas desempeñan cada vez más tareas y, lo que resulta más importante, de mayor importancia, con lo que es imprescindible que no se dejen engañar"

El ICMAT también investiga la aplicación de herramientas de seguridad como el análisis de riesgos adversario al problema del adversarial machine learning que, en esencia, pretende dar apoyo a una de las partes del enfrentamiento. «En este campo el enfrentamiento se produce entre una máquina que toma decisiones y un adversario que intenta engañarla», explica Naveiro, que añade que su trabajo radica en enseñar a la máquina la manera de no dejarse engañar, por lo que es necesario predecir las acciones de los adversarios. Con este fin se utilizó la teoría de juegos, que modeliza estos enfrentamientos y predice situaciones de equilibrio, en las que a ningún jugador le compensa cambiar de estrategia. «No obstante —destaca— la teoría de juegos asume que todos los jugadores conocen los parámetros e intereses del resto de jugadores y no es realista en ciberseguridad». Roi Naveiro manifiesta que el análisis de riesgos adversarios propone un mecanismo para predecir las acciones de los enemigos sin recaer en la hipótesis anterior: «Lo que se hace es simular muchos enfrentamientos ficticios», explica, y precisa que teniendo en cuenta las frecuencias de lo que ocurre en éstos, se calculan las probabilidades de los distintos ataques del adversario.

— ¿De qué manera puede un algoritmo anticiparse a una extorsión, a un estafa, al cualquier tipo de delincuencia?

—A grandes rasgos, un algoritmo aprende de la experiencia. En el paradigma del «aprendizaje supervisado. Existe una primera fase denominada entrenamiento, en la que se le muestran muchísimos datos de casos pasados junto con lo que pasó en esos casos (por ejemplo, se le enseñan muchísimas transacciones, diciéndole cuáles de ellas fueron fraude y cuáles no. El algoritmo debe tener capacidad de procesar estos datos, reconocer patrones de comportamiento y explotarlos para anticiparse a los adversarios.

"El análisis de riesgos adversarios propone un mecanismo para predecir las acciones de los enemigos"

Roi Naveiro destaca, a propósito de los algoritmos, esa palabra que todos usan pero cuyo significado muy pocos conocen, que no son más que conjuntos de reglas que se utilizan para desempeñar tareas. «Lo que los expertos hacen es formular estas tareas en términos que pueda entender un ordenador. Por así decirlo, traducen las tareas, tal y como las formulan las personas, en problemas matemáticos. Una vez se tiene el problema matemático, usando las herramientas matemáticas precisamente, se desarrolla un poco más hasta llegar a escribirlo de una manera que el ordenador pueda entender completamente. Así se ha traduce un problema humano en un conjunto de reglas que puede interpretar un ordenador.

El leonés manifiesta que, si bien no se atreve a predecir el futuro, hay determinados ‘sujetos’ que pueden afirmarse. Así, subraya que hace unos años, los aparatos que usábamos eran poco seguros desde el punto de vista físico o material. Pone como ejemplo la lo fácil que resultaba trucar el cuentakilómetros de un coche y destaca cómo se ha avanzado en la seguridad física de los aparatos. «Hoy en día, quizás estemos en el mismo paradigma que hace unos años, pero respecto a la seguridad digital. Dentro de unos años, probablemente la ciberseguridad avance muchísimo y lo que hoy consideramos seguridad digital, no será más que algo rudimentario. Lo que creo que sí se puede garantizar es que la ciberseguridad tomará un papel fundamental. Esto es una consecuencia natural de que cada vez nos movamos más en un mundo digital», dice.

Roi Naveiro también ha trabajado en detección de fraude . «Fue algo que estuve intentando hacer durante mi máster, cuando me iniciaba en el mundo de la Inteligencia Artificial», explica. Incide en que su investigación consistía en trabajar con una base de datos bastante completa sobre fraude, e intentar adaptar algunos algoritmos clásicos de Inteligencia Artificial a la misma. «Digo adaptar, porque el problema de detección de fraude tiene algunas peculiaridades que lo vuelven más complicado. Quizás la más relevante es el “desequilibrio” en los datos», sostiene. Naveiro explica que, aproximadamente, en la detección de fraude cuatro transacciones de cada 10.000 son fraudulentas, el resto legítimas. «La máquina observa muchos casos pasados, previamente etiquetados como fraude o legítimo, y aprende a extraer patrones de comportamiento de los adversarios. El problema está en que, si los casos pasados son en su mayoría legítimos (recordemos, solo cuatro de 10.000 son fraude), pues la máquina tiende a clasificar los nuevos casos todos como legítimos. Hay que diseñar técnicas, para que la máquina no incurra en este error», resalta.