UNIDAD I UNIDAD I REDES DE REDES DE

APRENDIZAJE NO APRENDIZAJE NO SUPERVISADOSUPERVISADO

INTRODUCCIÓN INTRODUCCIÓN

Aprendizaje en Aprendizaje en Redes NeuronalesRedes Neuronales

� El aprendizaje es esencial para El aprendizaje es esencial para la mayoría de las arquitecturas la mayoría de las arquitecturas de redes neuronales; por lo que de redes neuronales; por lo que la elección de un algoritmo de la elección de un algoritmo de aprendizaje es un punto central aprendizaje es un punto central en el desarrollo de una red.en el desarrollo de una red.

Aprendizaje Aprendizaje

� El aprendizaje implica que una El aprendizaje implica que una unidad de procesamiento es unidad de procesamiento es capaz de cambiar su capaz de cambiar su comportamiento entrada/salida comportamiento entrada/salida como resultado de los cambios como resultado de los cambios en el medio. en el medio.

AprendizajeAprendizaje

El aprendizaje puede ser:El aprendizaje puede ser:� SupervisadoSupervisado, se provee una , se provee una

respuesta correcta durante su respuesta correcta durante su entrenamiento.entrenamiento.

� No supervisadoNo supervisado, el objetivo a , el objetivo a alcanzar no esta presente.alcanzar no esta presente.

Reglas de AprendizajeReglas de Aprendizaje Supervisado Supervisado

� Regla del Perceptron.Regla del Perceptron.� Aprendizaje Supervisado Aprendizaje Supervisado

Hebbiano.Hebbiano.� Aprendizaje de Widrow-Hoff.Aprendizaje de Widrow-Hoff.� Algoritmo de Retropropagación.Algoritmo de Retropropagación.

Aprendizaje Auto supervisadoAprendizaje Auto supervisado� Las redes con aprendizaje no supervisado Las redes con aprendizaje no supervisado

(auto supervisado) no requieren influencia (auto supervisado) no requieren influencia externa para ajustar los pesos de las externa para ajustar los pesos de las conexiones entre sus neuronas. conexiones entre sus neuronas.

� La red no recibe ninguna información por La red no recibe ninguna información por parte del entorno que le indique si la parte del entorno que le indique si la salida generada en respuesta a una salida generada en respuesta a una determinada entrada es o no correcta; por determinada entrada es o no correcta; por ello suele decirse que estas redes son ello suele decirse que estas redes son capaces de capaces de auto organizarseauto organizarse

Redes con aprendizaje No Redes con aprendizaje No supervisadosupervisado

� En este tipo de redes la salida En este tipo de redes la salida representa el grado de familiaridad representa el grado de familiaridad o similitud entre la información que o similitud entre la información que se le está presentando a la entrada se le está presentando a la entrada y las informaciones que se le han y las informaciones que se le han mostrado hasta entonces.mostrado hasta entonces.

Aprendizaje No Aprendizaje No SupervisadoSupervisado

� Está constituido por un conjunto Está constituido por un conjunto de reglas que dan a la red la de reglas que dan a la red la habilidad de aprender habilidad de aprender asociaciones entre los asociaciones entre los patrones que ocurren en patrones que ocurren en conjunto, conjunto, (frecuentemente)(frecuentemente). .

Aprendizaje no Aprendizaje no SupervisadoSupervisado

� Una vez que los patrones se Una vez que los patrones se han aprendido como han aprendido como asociación asociación le permite a las le permite a las redes realizar tareas útiles de redes realizar tareas útiles de reconocimiento de patrones y la reconocimiento de patrones y la habilidad de recordar.habilidad de recordar.

1.1 REGLAS DE 1.1 REGLAS DE APRENDIZAJE NO APRENDIZAJE NO

SUPERVISADOSUPERVISADO

Regla de aprendizaje Hebbiana.

Regla de aprendizaje competitivo.

Regla de aprendizaje Hebbiana diferencial.

Regla de aprendizaje competitiva diferencial.

Introducción a Introducción a aprendizaje asociativo.aprendizaje asociativo.

INTRODUCCIÓNINTRODUCCIÓN

¿Qué es una Asociación? ¿Qué es una Asociación?

� Es cualquier relación entre la Es cualquier relación entre la entrada de un sistema y su entrada de un sistema y su salida de tal forma que cuando salida de tal forma que cuando el patrón el patrón AA se presenta al se presenta al sistema éste responde con un sistema éste responde con un patrón patrón BB ..

Estimulo / Respuesta Estimulo / Respuesta

� Cuando dos patrones son Cuando dos patrones son relacionados por una relacionados por una asociaciónasociación , al patrón de , al patrón de entrada se le conoce como entrada se le conoce como estímuloestímulo y al patrón de salida y al patrón de salida se le refiere como se le refiere como respuestarespuesta..

InvestigadoresInvestigadoresAprendizaje Asociativo Aprendizaje Asociativo

� Teuvo KohonenTeuvo Kohonen (red asociativa lineal)

� James Anderson James Anderson (red asociativa lineal)

� Stephen GrossbergStephen Grossberg (red asociativa no lineal continua)

� D.O HebbD.O Hebb

Aprendizaje AsociativoAprendizaje Asociativo

Iván PavlovIván PavlovExperimentoExperimento� CondicionamientoCondicionamiento

– comidacomida– Salivación a la comida.Salivación a la comida.

– campanacampana– Salivación al oír la Salivación al oír la

campanacampana

Aprendizaje AsociativoAprendizaje Asociativo

� Condicionamiento Condicionamiento PositivoPositivo– reforzamientoreforzamiento

� Condicionamiento Condicionamiento NegativoNegativo– NocivoNocivo

1.1.11.1.1 REGLA DE REGLA DE APRENDIZAJEAPRENDIZAJE HEBBIANO NO HEBBIANO NO SUPERVISADOSUPERVISADO

INTRODUCCIÓNINTRODUCCIÓN

Aprendizaje HebbianoAprendizaje Hebbiano

� Donald O. Hebb Donald O. Hebb (1904-1985).(1904-1985).

� Padre de Padre de Psicobiologia Psicobiologia Cognoscitiva.Cognoscitiva.

� The Organization of The Organization of Behaviour (1942).Behaviour (1942).

� En 1949, su En 1949, su postulado.postulado.

Postulado de HebbPostulado de Hebb

� Cuando un axón de una celda A esta suficientemente cerca como para conseguir excitar una celda B y repetida o persistentemente toma parte en su activación, algún proceso de crecimiento tiene lugar en una o ambas celdas, de tal forma que la eficiencia de A, cuando la celda a activar es B, aumenta.

Aprendizaje HebbianoAprendizaje Hebbiano

� El aprendizaje Hebbiano El aprendizaje Hebbiano consiste básicamente en el consiste básicamente en el ajuste de los pesos de las ajuste de los pesos de las conexiones, de acuerdo con la conexiones, de acuerdo con la correlación de los valores de correlación de los valores de activación (salidas) de las dos activación (salidas) de las dos neuronas conectadas.neuronas conectadas.

Los Pensamientos 1Los Pensamientos 1

� Los pensamientos son disparados Los pensamientos son disparados a menudo por estimulación a menudo por estimulación externa.externa.

� El mismo pensamiento es El mismo pensamiento es estimulado por un infinito número estimulado por un infinito número de estímulos.de estímulos.

Los Pensamientos 2Los Pensamientos 2

� Los pensamientos permanecen Los pensamientos permanecen aun después de que la aun después de que la estimulación se ha ido.estimulación se ha ido.

� Los pensamientos no siempre son Los pensamientos no siempre son estimulados por agentes externos.estimulados por agentes externos.

Células agrupadas:Células agrupadas:Circuitos ReverberantesCircuitos Reverberantes

� Un concepto no se almacena en Un concepto no se almacena en una sola célula; este se almacena una sola célula; este se almacena en un conjunto de celdas.en un conjunto de celdas.

� Una celda no puede estar activa Una celda no puede estar activa durante mucho, pero un conjunto durante mucho, pero un conjunto de ellas sí.de ellas sí.

� Al circuito reverberante se le llama Al circuito reverberante se le llama células agrupadas (CA).células agrupadas (CA).

ActivaciónActivación

� Los pensamientos Los pensamientos son activados por son activados por estimulación externaestimulación externa

� si existe suficiente si existe suficiente estímulo se piensa estímulo se piensa en un concepto.en un concepto.

� El pensamiento es El pensamiento es activado por un activado por un número infinito de número infinito de estímulos.estímulos.

EstímuloEstímulo

RespuestaRespuesta

SnoopySnoopy

Curva de SnoopyCurva de Snoopy

� Los pensamientos Los pensamientos permanecen aun permanecen aun cuando el estímulo cuando el estímulo haya desaparecido.haya desaparecido.

� La activación La activación remanente es baja.remanente es baja.

� La activación decae La activación decae gradualmente.gradualmente.

Algoritmo HebbianoAlgoritmo Hebbiano

� Este algoritmo de tipo no supervisado Este algoritmo de tipo no supervisado pretende medir la familiaridad o extraer pretende medir la familiaridad o extraer las características de los datos de las características de los datos de entrada.entrada.

� Este tipo de aprendizaje se basa en el Este tipo de aprendizaje se basa en el siguiente postulado formulado por siguiente postulado formulado por Donald O. Hebb en 1949:Donald O. Hebb en 1949:

Postulado de HebbPostulado de Hebb

� ““Cuando un axón de una Cuando un axón de una celdacelda A esta A esta suficientemente cerca como para suficientemente cerca como para conseguir excitar una celda B y conseguir excitar una celda B y repetida o persistentemente toma parte repetida o persistentemente toma parte en su activación, algún proceso de en su activación, algún proceso de crecimiento o cambio metabólico tiene crecimiento o cambio metabólico tiene lugar en una o ambas celdas, de tal lugar en una o ambas celdas, de tal forma que la forma que la eficienciaeficiencia de A, cuando de A, cuando la celda a activar es B, aumenta”.la celda a activar es B, aumenta”.

Cuando un Cuando un peso peso contribuye en contribuye en la activación la activación de una de una neurona, el neurona, el peso se peso se incrementa. Y incrementa. Y si contribuye a si contribuye a la inhibición la inhibición éste se éste se decrementa.decrementa.

Postulado de HebbPostulado de Hebb

Celda y EficienciaCelda y Eficiencia

� Por Por celdacelda , Hebb entiende un , Hebb entiende un conjunto de neuronas fuertemente conjunto de neuronas fuertemente conectadas a través de una conectadas a través de una estructuraestructura compleja. compleja.

� Y por Y por eficiencia, eficiencia, la intensidad o la intensidad o la magnitud de la conexión; es la magnitud de la conexión; es decir el decir el pesopeso..

Aprendizaje HebbianoAprendizaje Hebbiano

� El aprendizaje Hebbiano consiste El aprendizaje Hebbiano consiste básicamente en el ajuste de los pesos de las básicamente en el ajuste de los pesos de las conexiones, de acuerdo con la correlación conexiones, de acuerdo con la correlación de los valores de activación (salidas) de las de los valores de activación (salidas) de las dos neuronas conectadas:dos neuronas conectadas:

j

i i

neurona la de salida

neurona la de salida

rate learning

===

=∆

j

jiji

x

y

xyw

ηη.

Topología de la RedTopología de la Red

yi xj

i j

Wji

Si las dos unidades son activas (positivas), se produce un reforzamiento de la conexión.

� Por el contrario, cuando una es activa

y la otra pasiva (negativa), se produce un debilitamiento de la conexión.

� � La modificación de los pesos se realiza en

función de los estados (salidas) de las neuronas obtenidas tras la presentación de cierto estímulo (información de entrada a la red), sin tener en cuenta si se deseaba obtener o no esos estados de activación.

NOTA 1:NOTA 1:

� Hebb sugirió que la fuerza de la sinapsis en Hebb sugirió que la fuerza de la sinapsis en el cerebro cambia proporcionalmente a la el cerebro cambia proporcionalmente a la correlación entre el disparo de las neuronas correlación entre el disparo de las neuronas pre y post sinápticas.pre y post sinápticas.

� Muchas reglas de aprendizaje de RNA Muchas reglas de aprendizaje de RNA reflejan con frecuencia el principio de la regla reflejan con frecuencia el principio de la regla Hebbiana.Hebbiana.

NOTA 2:NOTA 2:

� La regla de aprendizaje de Hebb es NO La regla de aprendizaje de Hebb es NO Supervisada y se utiliza en redes Supervisada y se utiliza en redes neuronales feedforward debido a que neuronales feedforward debido a que solo se emplea el producto de las solo se emplea el producto de las entradas y las salidas actuales para la entradas y las salidas actuales para la modificación de los pesos.modificación de los pesos.

� Ninguna salida deseada se proporciona Ninguna salida deseada se proporciona para generar la señal de aprendizaje para generar la señal de aprendizaje que actualizará los pesos.que actualizará los pesos.

NOTA 3:NOTA 3:

� La regla de aprendizaje de Hebb La regla de aprendizaje de Hebb requiere de la inicialización de los requiere de la inicialización de los pesos en valores pequeños y pesos en valores pequeños y aleatorios cercanos a cero antes aleatorios cercanos a cero antes de realizar el aprendizaje.de realizar el aprendizaje.

APLICACIONESAPLICACIONES

� En el diseño de circuitos integrados En el diseño de circuitos integrados VLSI. Por su fácil implementación.VLSI. Por su fácil implementación.

� En el reconocimiento de voz.En el reconocimiento de voz.� En el reconocimiento de imágenes.En el reconocimiento de imágenes.� En el control de motores.En el control de motores.

� Resolución de problemas de Resolución de problemas de optimización.optimización.

� Resolución de ecuaciones.Resolución de ecuaciones.� Manipulación de grafos.Manipulación de grafos.� Procesamiento de señales (diseño de Procesamiento de señales (diseño de

convertidores analógico-digitales).convertidores analógico-digitales).� Procesamiento de imágenes.Procesamiento de imágenes.� Reconocimiento de patrones.Reconocimiento de patrones.

APLICACIONESAPLICACIONES

Wake up!Wake up!

Introducción a aprendizaje Introducción a aprendizaje asociativo.asociativo.

1.1.1 Regla de aprendizaje 1.1.1 Regla de aprendizaje Hebbiano no supervisada.Hebbiano no supervisada.

1.1.2 Regla Instar.1.1.2 Regla Instar.