aprendizaje automático profundo y sus aplicaciones

63
인인인인(인인인) 인인인 인인 Aprendizaje automático profundo y sus aplicacio nes KOSS Lab. 2 인 Mario Cho (인인인)

Upload: francisco-martinez-carreno

Post on 07-Jan-2017

124 views

Category:

Technology


2 download

TRANSCRIPT

Page 1: Aprendizaje automático profundo y sus aplicaciones

인공지능(딥러닝)이해와 응용

Aprendizaje automático profundo y susaplicaciones

KOSS Lab. 2 기Mario Cho (조만석)

[email protected]

Page 2: Aprendizaje automático profundo y sus aplicaciones

Contenidos

• 기계학습 (RNs)

• Redes neuronales• 딥러닝 기술• 활용방안

Page 3: Aprendizaje automático profundo y sus aplicaciones

Mario ChoExperiencias en desarrollo

◆ Reconocimiento de imágenes mediante redes neuronales◆ Procesamiento de datos biomédicos◆ Cartografía de alto rendimiento del cerebro humano

Informática◆ Reconstrucción de imágenes de diagnóstico medico

(Tomografía por ordenador)◆ Sistema de empresa◆ Herramienta de desarrollo de software de código abierto

Herramientas de desarrollo de software de código abierto

◆ OPNFV (NFV&SDN) y OpenStack◆ Aprendizaje automático (TensorFlow)

Libro◆ Unix V6 Kernel Korea Open Source Software Lab.

Mario [email protected]

Page 4: Aprendizaje automático profundo y sus aplicaciones

Información al día

* http://www.cray.com/Assets/Images/urika/edge/analytics-infographic.html

Page 5: Aprendizaje automático profundo y sus aplicaciones

El futuro de los puestos de trabajo

“La cuarta revolución industrial, que incluye desarrollos en campos que antes no estaban relacionados comola inteligencia artificial y el aprendizaje automático, la robótica, la nanotecnología, la impresión en 3-D, la genética y la biotecnología, causará trastornos de forma generalizada no sólo a los modelos de negocios, sino también al mercado de trabajo en los próximos cinco años, y se prevé un enorme cambio en la capacitación necesaria para prosperar en el nuevo paisaje ".

Page 6: Aprendizaje automático profundo y sus aplicaciones

¿Qué es el aprendizaje automático?• Campo de la informática que ha evolucionado desde el estudio del reconocimiento de patrones y de la teoría del aprendizaje computacional a la inteligencia artificial.

• Su objetivo es proporcionar a los computadores la capacidad de aprender sin que se hayan programado para ello.

• Para este propósito, el aprendizaje automático utiliza técnicas de matemáticas / estadística para crear modelos a partir de un conjunto de datos observados, en lugar tener un conjunto específico de instrucciones que introduce el usuario, y que definen el modelo para ese conjunto de datos.

Page 7: Aprendizaje automático profundo y sus aplicaciones

Se requiere un nuevo tipo de computación

comprender la información,aprenderrazonar,y actuar sobre ella

Page 8: Aprendizaje automático profundo y sus aplicaciones

Aprendizaje tradicional vs aprendizaje automático profundo

Aprendizaje tradicional

Torre Eiffel

Datos brutos Extracción de características

Vectorizado Clasificación

Aprendizaje profundo

Torre Eiffel

Datos brutos

Red de aprendizaje profundo

Page 9: Aprendizaje automático profundo y sus aplicaciones

Neurona

Page 10: Aprendizaje automático profundo y sus aplicaciones

Inteligencia humana

Page 11: Aprendizaje automático profundo y sus aplicaciones

Mapa del cerebro

Page 12: Aprendizaje automático profundo y sus aplicaciones

El hipocampo

Page 13: Aprendizaje automático profundo y sus aplicaciones

Red neuronal vs red de aprendizajeRed neuronal Red de aprendizaje profundo

Page 14: Aprendizaje automático profundo y sus aplicaciones

Red neuronal

-0,06

W1

-2.5 W2

W3

f(x)

1,4

Page 15: Aprendizaje automático profundo y sus aplicaciones

Red neuronal

-0.06

2,7

-2,5 -8,6

0,002

f(x)

x = -0.06×2.7 + 2.5×8.6 + 1.4×0.002 = 21.34

1,4

Page 16: Aprendizaje automático profundo y sus aplicaciones

0 0 0 1 1

0 1 0 0 0

1 0 0 0 0

1 1 1 0 0

Red neuronal : x1 XNOR x2

+1

-30

10 20x1

20

+1

a1(2)

10

-20

-10

a1(3)

Salida10

-20

x2-10

x1 x2 a1(2) a2(2) a1(3)

a2(2)

Page 17: Aprendizaje automático profundo y sus aplicaciones

Redes neuronales multicapa

Entrenar primero esta capa

Page 18: Aprendizaje automático profundo y sus aplicaciones

Redes neuronales multicapa

Entrenar primero esta capa

después esta capa

después esta capa y

después esta capa y finalmente esta capa

Page 19: Aprendizaje automático profundo y sus aplicaciones

Tic Tac Toc

Page 20: Aprendizaje automático profundo y sus aplicaciones

AlphaGo

datosbrutos

Selección

Expansiones

Evaluación

Respaldo

Capa1~ Capa13

Page 21: Aprendizaje automático profundo y sus aplicaciones

Política de red y red de valor

Page 22: Aprendizaje automático profundo y sus aplicaciones

Aprendizaje profundo - RNC

Page 23: Aprendizaje automático profundo y sus aplicaciones

Reconocimiento de imágenes en Google Map

* Fuente Oriol Vinyals – Científico investigador en Google Brain

Page 24: Aprendizaje automático profundo y sus aplicaciones

Aprendizaje profundo Hello World == MNIST

Page 25: Aprendizaje automático profundo y sus aplicaciones

MNIST (predecir un numero en una imagen)

Page 26: Aprendizaje automático profundo y sus aplicaciones

Entrenamiento de RNC (red neuronal convolucional)

Page 27: Aprendizaje automático profundo y sus aplicaciones

MNIST

Page 28: Aprendizaje automático profundo y sus aplicaciones

Reconocimiento de caracteres antiguos

Page 29: Aprendizaje automático profundo y sus aplicaciones

Reconocimiento de objetos con precisión humana

• ImageNet

• Desafío de reconocimiento visual a gran escalaClasificación / Localización de imágenes1.2M de imágenes etiquetadas, 1000 clasesRedes neuronales convolucionales (RNCs)

han dominado la prueba desde.. 2012 no RNC: 26.2% (top-5 error) 2012: (Hinton, AlexNet)15.3% 2013: (Clarifai) 11.2% 2014: (Google, GoogLeNet) 6.7% 2015: (Google) 4.9%

Más allá del nivel de resolución humano

Page 30: Aprendizaje automático profundo y sus aplicaciones

Representación jerárquica del aprendizaje profundo

* Fuente : Honglak Lee y sus colegas (2011) lo publicaron en ‘Unsupervised Learning of Hierarchical Representations with Convolutional Deep Belief Networks.

Page 31: Aprendizaje automático profundo y sus aplicaciones

Aprendizaje profundo (partes de objetos)

* Fuente : Honglak Lee y sus colegas (2011) lo publicaron en ‘Unsupervised Learning of Hierarchical Representations with Convolutional Deep Belief Networks’.

Page 32: Aprendizaje automático profundo y sus aplicaciones

Método de extracción facial

Page 33: Aprendizaje automático profundo y sus aplicaciones

¿Bases de datos de reconocimiento facial?• Predominan los sistemas de

reconocimiento facial basados en redes neuronales convolucionales

• El 99.15% de exactitud facial con LFW dataset in DeepID2 (2014) Más allá del nivel de resolución humano

Fuente: Taigman et al. DeepFace: Acortando distancias con el nivel de resolución humano en verificación facial, CVPR’14

Page 34: Aprendizaje automático profundo y sus aplicaciones

Reconocimiento de imágenes

* Fuente Oriol Vinyals – Científico investigador en Google Brain

Page 35: Aprendizaje automático profundo y sus aplicaciones

Detección y clasificación de objetos

Page 36: Aprendizaje automático profundo y sus aplicaciones

¿Cómo reconocer objetos?

Page 37: Aprendizaje automático profundo y sus aplicaciones

Generación de pies de fotos

Page 38: Aprendizaje automático profundo y sus aplicaciones

Generación de lenguaje

* Fuente Oriol Vinyals – Científico investigador en Google Brain

Page 39: Aprendizaje automático profundo y sus aplicaciones

Análisis de escenas

[Farabet et al. ICML 2012, PAMI 2013]

Page 40: Aprendizaje automático profundo y sus aplicaciones

Análisis de escenas

[Farabet et al. ICML 2012, PAMI 2013]

Page 41: Aprendizaje automático profundo y sus aplicaciones

Autopiloto de coche

Page 42: Aprendizaje automático profundo y sus aplicaciones

Coloración automática de imágenes en blanco y negro

Page 43: Aprendizaje automático profundo y sus aplicaciones

Generación de sonido en películas antiguas

Page 44: Aprendizaje automático profundo y sus aplicaciones

Traducción automática• Traducción automática de textos.

• Traducción automática de imágenes.

Page 45: Aprendizaje automático profundo y sus aplicaciones

Generación automática de escritura

Page 46: Aprendizaje automático profundo y sus aplicaciones

Generación de textos

Page 47: Aprendizaje automático profundo y sus aplicaciones

Creación de imágenes estilizadas a partir de bocetos rudimentarios

Page 48: Aprendizaje automático profundo y sus aplicaciones

Inspiración para la humanidad

Page 49: Aprendizaje automático profundo y sus aplicaciones

¡Gracias!

Q&A