ia conexionista-rna --prueba y entrenamiento con modelos de rna (2)

26
TEMA: IA conexionista-RNA Subtema: Prueba y entrenamiento con modelos de RNA Contenidos: 1. Repaso: taxonomía RNA 2. Método fijo 2: Red de Hopfield Conceptos de Inteligencia Artificial TEMA: IA conexionista-RNA Subtema: Prueba y entrenamiento MSc. Priscill Orue - Inteligencia Artificial 1

Upload: priscill-orue-esquivel

Post on 29-Jun-2015

256 views

Category:

Science


0 download

DESCRIPTION

TEMA: IA conexionista-RNA Subtema: Prueba y entrenamiento con modelos de RNA Contenidos: 1. Repaso: taxonomía RNA 2. Método fijo 2: Red de Hopfield

TRANSCRIPT

Page 1: IA conexionista-RNA --Prueba y entrenamiento con modelos de RNA (2)

TEMA: IA conexionista-RNA Subtema: Prueba y entrenamiento con modelos de

RNA

Contenidos:

1. Repaso: taxonomía RNA

2. Método fijo 2: Red de Hopfield

Conceptos de Inteligencia Artificial TEMA: IA conexionista-RNA Subtema: Prueba y entrenamiento

MSc. Priscill Orue - Inteligencia Artificial 1

Page 2: IA conexionista-RNA --Prueba y entrenamiento con modelos de RNA (2)

1. Repaso: prueba y entrenamiento

De acuerdo al tipo de entrenamiento, se puede obtener esta taxonomía:

Conceptos de Inteligencia Artificial TEMA: IA conexionista-RNA Subtema: Prueba y entrenamiento

MSc. Priscill Orue - Inteligencia Artificial 2

Page 3: IA conexionista-RNA --Prueba y entrenamiento con modelos de RNA (2)

2. Método fijo 2: Red de Hopfield

La red fue propuesta en 1982 por el afamado físico teórico John Hopfield. Tiene tres puntos destacables:

1. Se basa en el planteamiento de una memoria asociativa: se hace necesario entonces definir una función energía.

2. Pone de manifiesto la analogía existente entre su modelo y la física estadística clásica, lo que permite utilizar herramientas conocidas de ese campo.

3. Se destaca en su trabajo la facilidad de implementación de su modelo aprovechando la tecnología VLSI (Very Large Scale Integration)

Conceptos de Inteligencia Artificial TEMA: IA conexionista-RNA Subtema: Prueba y entrenamiento

MSc. Priscill Orue - Inteligencia Artificial 3

Page 4: IA conexionista-RNA --Prueba y entrenamiento con modelos de RNA (2)

2. Método fijo 2: Red de Hopfield

Para entenderlo mejor….

La memoria humana funciona de manera asociativa. A partir de una porción de información es capaz de obtener la información completa. Por ej, escuchando los primeros acordes de una canción, el cerebro es capaz de reproducir toda una experiencia completa, incluyendo escenas, ruidos y olores.

Conceptos de Inteligencia Artificial TEMA: IA conexionista-RNA Subtema: Prueba y entrenamiento

MSc. Priscill Orue - Inteligencia Artificial 4

Page 5: IA conexionista-RNA --Prueba y entrenamiento con modelos de RNA (2)

2. Método fijo 2: Red de Hopfield

Para entenderlo mejor….

Una red recursiva constituye una memoria asociativa. Al igual que el humano, si se le presenta una porción de datos es capaz de recuperar todos los datos.

Para realizar una memoria asociativa mediante una red recursiva, es necesario elegir los pesos de forma que produzcan un mínimo de energía en los vértices deseados del hipercubo. Cada vector de estado correspondiente a un mínimo de energía se llama “memoria”

Bases de la Inteligencia Artificial – IIA TEMA: IA conexionista-RNA Subtema: Prueba y entrenamiento

MSc. Priscill Orue - Inteligencia Artificial 5

Page 6: IA conexionista-RNA --Prueba y entrenamiento con modelos de RNA (2)

2. Método fijo 2: Red de Hopfield

Una red con realimentación necesita muchas iteraciones hasta que consigue la recuperación del patrón final. La red de retroasociacion de Hopfield tiene las siguientes características: Los Pesos sinápticos (predetermiados por la regla de Hebb o por

una función de energía) son prealmacenados. Se usan operaciones no lineales de escalonamiento en cada etapa

para producir valores binarios. La retroalimentación tiene la función de propiciar que los estados

se puedan actualizar iterativamente. Las iteraciones convergen hacia una solución que minimiza una

función de energía de la red.

Conceptos de Inteligencia Artificial TEMA: IA conexionista-RNA Subtema: Prueba y entrenamiento

MSc. Priscill Orue - Inteligencia Artificial 6

Page 7: IA conexionista-RNA --Prueba y entrenamiento con modelos de RNA (2)

2. Método fijo 2: Red de Hopfield

----Ejemplo 1.

Se tiene una red de Hopfield con 5 nodos y se quiere reconocer el patrón:

Conceptos de Inteligencia Artificial TEMA: IA conexionista-RNA Subtema: Prueba y entrenamiento

MSc. Priscill Orue - Inteligencia Artificial 7

Page 8: IA conexionista-RNA --Prueba y entrenamiento con modelos de RNA (2)

2. Método fijo 2: Red de Hopfield

Puesto que la red tiene 5 nodos, se requiere de una matriz de 5*5 pesos, donde los pesos de un nodo que regresa a si mismo son cero. La matriz de pesos sería entonces:

Conceptos de Inteligencia Artificial TEMA: IA conexionista-RNA Subtema: Prueba y entrenamiento

MSc. Priscill Orue - Inteligencia Artificial 8

Page 9: IA conexionista-RNA --Prueba y entrenamiento con modelos de RNA (2)

2. Método fijo 2: Red de Hopfield

Conceptos de Inteligencia Artificial TEMA: IA conexionista-RNA Subtema: Prueba y entrenamiento

MSc. Priscill Orue - Inteligencia Artificial 9

Page 10: IA conexionista-RNA --Prueba y entrenamiento con modelos de RNA (2)

2. Método fijo 2: Red de Hopfield

Puesto que los pesos son simétricos, sólo se tiene que calcular la diagonal superior de los pesos y entonces copiar a cada peso su peso específico en la matriz.

Conceptos de Inteligencia Artificial TEMA: IA conexionista-RNA Subtema: Prueba y entrenamiento

MSc. Priscill Orue - Inteligencia Artificial 10

Page 11: IA conexionista-RNA --Prueba y entrenamiento con modelos de RNA (2)

2. Método fijo 2: Red de Hopfield

Calcular la matriz de pesos:

Conceptos de Inteligencia Artificial TEMA: IA conexionista-RNA Subtema: Prueba y entrenamiento

MSc. Priscill Orue - Inteligencia Artificial 11

Page 12: IA conexionista-RNA --Prueba y entrenamiento con modelos de RNA (2)

2. Método fijo 2: Red de Hopfield

Conceptos de Inteligencia Artificial TEMA: IA conexionista-RNA Subtema: Prueba y entrenamiento

MSc. Priscill Orue - Inteligencia Artificial 12

Page 13: IA conexionista-RNA --Prueba y entrenamiento con modelos de RNA (2)

2. Método fijo 2: Red de Hopfield

Conceptos de Inteligencia Artificial TEMA: IA conexionista-RNA Subtema: Prueba y entrenamiento

MSc. Priscill Orue - Inteligencia Artificial 13

Page 14: IA conexionista-RNA --Prueba y entrenamiento con modelos de RNA (2)

2. Método fijo 2: Red de Hopfield

---- Ejemplo 2

Conceptos de Inteligencia Artificial TEMA: IA conexionista-RNA Subtema: Prueba y entrenamiento

MSc. Priscill Orue - Inteligencia Artificial 14

Page 15: IA conexionista-RNA --Prueba y entrenamiento con modelos de RNA (2)

2. Método fijo 2: Red de Hopfield

Conceptos de Inteligencia Artificial TEMA: IA conexionista-RNA Subtema: Prueba y entrenamiento

MSc. Priscill Orue - Inteligencia Artificial 15

Page 16: IA conexionista-RNA --Prueba y entrenamiento con modelos de RNA (2)

2. Método fijo 2: Red de Hopfield

Conceptos de Inteligencia Artificial TEMA: IA conexionista-RNA Subtema: Prueba y entrenamiento

MSc. Priscill Orue - Inteligencia Artificial 16

Page 17: IA conexionista-RNA --Prueba y entrenamiento con modelos de RNA (2)

2. Método fijo 2: Red de Hopfield

Conceptos de Inteligencia Artificial TEMA: IA conexionista-RNA Subtema: Prueba y entrenamiento

MSc. Priscill Orue - Inteligencia Artificial 17

Page 18: IA conexionista-RNA --Prueba y entrenamiento con modelos de RNA (2)

2. Método fijo 2: Red de Hopfield

Conceptos de Inteligencia Artificial TEMA: IA conexionista-RNA Subtema: Prueba y entrenamiento

MSc. Priscill Orue - Inteligencia Artificial 18

Page 19: IA conexionista-RNA --Prueba y entrenamiento con modelos de RNA (2)

2. Método fijo 2: Red de Hopfield

Conceptos de Inteligencia Artificial TEMA: IA conexionista-RNA Subtema: Prueba y entrenamiento

MSc. Priscill Orue - Inteligencia Artificial 19

Page 20: IA conexionista-RNA --Prueba y entrenamiento con modelos de RNA (2)

2. Método fijo 2: Red de Hopfield

Conceptos de Inteligencia Artificial TEMA: IA conexionista-RNA Subtema: Prueba y entrenamiento

MSc. Priscill Orue - Inteligencia Artificial 20

Page 21: IA conexionista-RNA --Prueba y entrenamiento con modelos de RNA (2)

2. Método fijo 2: Red de Hopfield

Conceptos de Inteligencia Artificial TEMA: IA conexionista-RNA Subtema: Prueba y entrenamiento

MSc. Priscill Orue - Inteligencia Artificial 21

Page 22: IA conexionista-RNA --Prueba y entrenamiento con modelos de RNA (2)

2. Método fijo 2: Red de Hopfield

Conceptos de Inteligencia Artificial TEMA: IA conexionista-RNA Subtema: Prueba y entrenamiento

MSc. Priscill Orue - Inteligencia Artificial 22

Page 23: IA conexionista-RNA --Prueba y entrenamiento con modelos de RNA (2)

2. Método fijo 2: Red de Hopfield

Y2 = X [1, 1, 1, -1] Se ha logrado recuperar el vector X en dos iteraciones

Conceptos de Inteligencia Artificial TEMA: IA conexionista-RNA Subtema: Prueba y entrenamiento

MSc. Priscill Orue - Inteligencia Artificial 23

Page 24: IA conexionista-RNA --Prueba y entrenamiento con modelos de RNA (2)

2. Método fijo 2: Red de Hopfield

Se tiene una red de Hopfield con 4 nodos y se quiere reconocer el patrón:

Calcule la matriz de pesos y dibuje la red neuronal

Conceptos de Inteligencia Artificial TEMA: IA conexionista-RNA Subtema: Prueba y entrenamiento

MSc. Priscill Orue - Inteligencia Artificial 24

Page 25: IA conexionista-RNA --Prueba y entrenamiento con modelos de RNA (2)

2. Método fijo 2: Red de Hopfield

Almacene los patrones

Calcule la matriz de pesos y recupere el siguiente vector:

X1 = 1 1 0 1 1

X2 = 0 0 0 1 1

G = 0 1 0 1 0

Conceptos de Inteligencia Artificial TEMA: IA conexionista-RNA Subtema: Prueba y entrenamiento

MSc. Priscill Orue - Inteligencia Artificial 25

Page 26: IA conexionista-RNA --Prueba y entrenamiento con modelos de RNA (2)

Algunas referencias consultadas: Andina de la Fuente, Diego (2010). Redes Neuronales Artificiales. Universidad Politécnica de Madrid-UPM: Departamento de Señales, Sistemas y Radiocomunicaciones (SSR). Acc 2013 <http://www.gc.ssr.upm.es/inves/neural/ann2/anntutorial.html>

Basogain Olabe, Xabier (2012). Redes Neuronales Artificiales y sus Aplicaciones. Universidad del País Vasco: Dpto. Ingeniería de Sistemas y Automática. Acc 2013 http://cvb.ehu.es/open_course_ware/castellano/tecnicas/redes_neuro/contenidos/pdf/libro-del-curso.pdf

Serrano, Antonio, Emilio Soria y José D. Martin (2010). Redes Neuronales Artificiales. Universitat de Valencia: Escola Tecnica Superior d’ Enginyeria. Acc. 2013. <http://ocw.uv.es/ingenieria-y-arquitectura/1-2/libro_ocw_libro_de_redes.pdf>

Torres Soler, Luis Carlos (2010). Redes Neuronales Artificiales. Universidad Nacional de Colombia: Facultad de Ingeniería. Acc. 2013 <http://disi.unal.edu.co/~lctorress/RedNeu/RNA007c.pdf>

Conceptos de Inteligencia Artificial TEMA: IA conexionista-RNA Subtema: Prueba y entrenamiento

MSc. Priscill Orue - Inteligencia Artificial 26