Estado del Arte de las Técnicas de Machine Learning:

Mitos y Realidades

Santiago Zazo

Centro de I+D+i en Procesado de la Información y las Telecomunicaciones (IPTC)

Universidad Politécnica de Madrid

Aplicación de las Técnicas de Machine Learning en Defensa y Seguridad

Contenidos

⚫ Fundamentos y conceptos esenciales

⚫ Mitos y Realidades

− Las realidades están ya al alcance de cualquiera

− Los mitos se están convirtiendo en retos cada vez más próximos

⚫ Caso de Análisis: Acciones coordinadas de elementos

robóticos gestionados por IA. ¿Realidad o ficción?

− Redes cognitivas seguras

− Percepción y extracción del conocimiento. Conciencia situacional

− Navegación autónoma coordinada

− Toma de decisiones individuales

⚫ Aprendizaje por refuerzo

− Toma de decisiones coordinadas

⚫ Teoría de Juegos. Inteligencia distribuida

Aplicación de las Técnicas de Machine Learning en Defensa y Seguridad

Contexto

⚫ El procesado digital supuso una revolución en la teoría de la señal.

− Dadas una señales se obtenían otras señales

⚫ Machine Learning (ML) aunque comparte la formulación matemática

basada en análisis estadístico supone un planteamiento muy diferente

− Dados unos datos se infieren reglas, modelos y toma de decisiones.

− Capacidad de aprender a resolver ciertos problemas sin haber sido

explícitamente programado para ello

− Las Redes Neuronales Profundas (DNNs) constituyen el marco para abordar

este reto

Aplicación de las Técnicas de Machine Learning en Defensa y Seguridad

Tipos de aprendizaje

- Aprendizaje supervisado

- Aprendizaje no supervisado

- Aprendizaje por refuerzo

Aplicación de las Técnicas de Machine Learning en Defensa y Seguridad

Tipos de aprendizaje

- Aprendizaje supervisado.

- Procesos discriminativos (clasificación)

Aplicación de las Técnicas de Machine Learning en Defensa y Seguridad

Tipos de aprendizaje

- Aprendizaje supervisado.

- Procesos discriminativos (clasificación)

Aplicación de las Técnicas de Machine Learning en Defensa y Seguridad

Tipos de aprendizaje

- Aprendizaje no

supervisado

(Procesos

generativos)

Variational Autoencoders (VAEs)Extracción de características

Aplicación de las Técnicas de Machine Learning en Defensa y Seguridad

Tipos de aprendizaje

- Aprendizaje por refuerzo (RL)

- Sistemas dinámicos. Procesos de decisión de Markov (MDP)

- Utilizar DNN para representar la función valor / la política

Aplicación de las Técnicas de Machine Learning en Defensa y Seguridad

Mitos y Realidades (1)

- Mito: las DNN resuelven cualquier problema

- Realidad: las DNN tienen una capacidad de expresividad completa (aproximadores universales). Ahora bien…

- Dimensión adecuada

- Arquitectura apropiada

- Naturaleza no convexa

Aplicación de las Técnicas de Machine Learning en Defensa y Seguridad

DNN

- NN densas

Aplicación de las Técnicas de Machine Learning en Defensa y Seguridad

DNN

- NN convolucionales. Explotar la correlación espacial

Aplicación de las Técnicas de Machine Learning en Defensa y Seguridad

DNN

- NN convolucionales. Explotar la correlación espacial

Aplicación de las Técnicas de Machine Learning en Defensa y Seguridad

DNN

- NN recurrentes (LSTM): explotar la correlación temporal

Aplicación de las Técnicas de Machine Learning en Defensa y Seguridad

DNN

- NN recurrentes (RNN): explotar la correlación temporal

Aplicación de las Técnicas de Machine Learning en Defensa y Seguridad

Mitos y Realidades (2)

⚫ Mito: estas herramientas las puede usar cualquiera con formación superficial. Los algoritmos pueden interpretarse como cajas negras

⚫ Realidad: la experiencia y el conocimiento marcan la diferencia

⚫ Un algoritmo es tan bueno como su programador

⚫ Papel clave del entrenamiento: ¿qué pasa si un algoritmo se enfrenta a un escenario no previsto?

⚫ Hay que entender que la clave de las prestaciones está en la disponibilidad de estos datos y en su capacidad para representar todos los escenarios de interés

⚫ Las soluciones no tienen por qué ser siempre mejores que las obtenidas por sistemas clásicos. Dependerá de la complejidad del problema y del conocimiento que podamos aportar

⚫ Por tanto hay que conocer sus limitaciones, saber explotar sus posibilidades e interpretar adecuadamente el resultado

⚫ Escoger la arquitectura y el mecanismo de entrenamiento más adecuados

⚫ Función de coste, regularizador. Evitar el sobreajuste

⚫ Algoritmo de gradiente (tamaño del bloque), evitar regiones gradiente casi nulo, puntos de ensilladura, mínimos / máximos locales

Aplicación de las Técnicas de Machine Learning en Defensa y Seguridad

Mitos y Realidades (3)

⚫ Mito: Las soluciones

generalizan mal…

⚫ Realidad: transfer learning⚫ Se puede usar eficientemente el

conocimiento de ciertas tareas para facilitar

el aprendizaje de otras

Aplicación de las Técnicas de Machine Learning en Defensa y Seguridad

Mitos y realidades (4)

⚫ Mito: la IA no puede reproducir las expresiones más abstractas del ser

humano como es la belleza de la pintura, escritura, música..

⚫ Realidad: actualmente, a través de los modelos generativos las

máquinas pueden extraer los rasgos de un pintor o escritor o compositor

y generar nuevas obras siguiendo esos perfiles

Evolución de los modelos generativos en estos últimos años

Aplicación de las Técnicas de Machine Learning en Defensa y Seguridad

Mitos y realidades (4)

⚫ Mito: la IA no puede reproducir las expresiones más abstractas del ser

humano como es la belleza de la pintura, escritura, música..

⚫ Realidad: actualmente, a través de los modelos generativos las

máquinas pueden extraer los rasgos de un pintor o escritor o compositor

y generar nuevas obras siguiendo esos perfiles

Aplicación de las Técnicas de Machine Learning en Defensa y Seguridad

Mitos y realidades (4)

Aplicación de las Técnicas de Machine Learning en Defensa y Seguridad

Mitos y realidades (4)

⚫ Redes Generativas Adversarias (GANs)

ProblemasEstabilidad de la soluciónDominación de una red frente a la otraGradiente despreciable

Aplicación de las Técnicas de Machine Learning en Defensa y Seguridad

Caso de estudio

⚫ Acciones coordinadas de

elementos robóticos gestionados

por IA. ¿Realidad o ficción?

− Redes cognitivas seguras

− Percepción y extracción del

conocimiento. Conciencia

situacional

− Navegación autónoma coordinada

− Toma de decisiones individuales

⚫ Sistemas dinámicos. Control óptimo

⚫ Aprendizaje por refuerzo

− Toma de decisiones coordinadas

⚫ Teoría de Juegos

⚫ Inteligencia distribuida

Aplicación de las Técnicas de Machine Learning en Defensa y Seguridad

Redes cognitivas seguras

⚫ Aparte de las técnicas habituales de ‘jamming’ ahora surgen otras amenazas como es la incorporación en la red de nodos maliciosos

⚫ Planteamiento según la teoría de juegos.

⚫ Implementación mediante DNN: ataque óptimo / defensa óptima

CamuflajeReputación

Aplicación de las Técnicas de Machine Learning en Defensa y Seguridad

Visión artificial. Conciencia situacional

Aplicación de las Técnicas de Machine Learning en Defensa y Seguridad

Visión artificial. Conciencia situacional

Aplicación de las Técnicas de Machine Learning en Defensa y Seguridad

Sistemas de ayuda a la toma de decisiones

⚫ Toma de decisiones óptima en sistemas

dinámicos

− MDP / RL

− Representación de la función valor o de la

función política mediante NNs

• Toma de decisiones óptima con observabilidad

parcial• POMDP

• Representación de la historia. Redes recurrentes

• Extensión al caso multiagente. Teoría de juegos

Aplicación de las Técnicas de Machine Learning en Defensa y Seguridad

Navegación autónoma

⚫ Sistema dinámico que implica tomar cierto tipo de

decisiones acerca de la gestión de los actuadores

del sistema de guiado

Aplicación de las Técnicas de Machine Learning en Defensa y Seguridad

¿Mito o realidad?

⚫ Realidad

⚫ Tenemos todas las piezas del puzzle

⚫ La tecnología nos aporta soluciones individuales

⚫ Mito (muy pronto va a dejar de serlo)

− Entrenamiento meticuloso y exhaustivo

− Gestión de la inteligencia de forma distribuida

− Extraer la información relevante (rasgos – características) de cada elemento de la red.

− Fusión óptima de la información heterogénea

Aplicación de las Técnicas de Machine Learning en Defensa y Seguridad

Gestión de la inteligenciade forma distribuida

FeaturesBW limitado

FeaturesBW limitado

FeaturesBW limitado

FeaturesBW limitado

Features BW limitado

Aplicación de las Técnicas de Machine Learning en Defensa y Seguridad

Extracción de rasgos (Variational Autoencoders VAEs)

Aplicación de las Técnicas de Machine Learning en Defensa y Seguridad

Fusión óptima de

información heterogénea

Aplicación de las Técnicas de Machine Learning en Defensa y Seguridad

Conclusiones

⚫ No cabe ninguna duda de que IA (ML es una parte de IA) es una tecnología disruptiva.

• No sólo es cuestión de tener capacidad operativa más

eficaz sino que habrá que dar respuesta a amenazas

cada vez más sofisticadas

• … pero la clave del éxito sigue siendo la misma que en

el resto de las revoluciones tecnológicas de la

humanidad: el conocimiento

Aplicación de las Técnicas de Machine Learning en Defensa y Seguridad