adaline

2

Click here to load reader

Upload: germen-sevek

Post on 25-Jan-2016

7 views

Category:

Documents


2 download

DESCRIPTION

El adaline (de ADAptative LINear Element) es un tipo de red neuronal artificial desarrollada por el profesor Bernie Widrow y su alumno Ted Hoff en la Universidad de Stanford en 1960.

TRANSCRIPT

Page 1: Adaline

Adaline

El adaline (de ADAptative LINear Element) es un ti-po de red neuronal artificial desarrollada por el profesorBernie Widrow y su alumno Ted Hoff en la Universidadde Stanford en 1960.[1]

1 Definición

Generalmente se compone de una sola capa de n neuronas( por tanto n valores de salida ) con m entradas con lassiguientes características:

• Las m entradas representan un vector x de entradaque pertenece al espacio Rm .

• Por cada neurona, existe un vector w de pesos si-nápticos que indican la fuerza de conexión entre losvalores de entrada y la neurona. En la práctica re-presentan la ponderación de cada entrada sobre laneurona.

• Una constante θ .

• La salida y de la neurona se representa por la funciónde activación, que se define como y =

∑ni=1 xiwi+

θ

2 Aprendizaje

A diferencia del perceptrón, a la hora de modificar lospesos durante el entrenamiento, el Adaline tiene en cuentael grado de corrección de la salida estimada respecto a ladeseada.[2] Esto se consigue mediante la aplicación de laregla Delta, y que se define, para un patrón de entrada xp

con una salida estimada yp y una salida deseada dp , como|dp − yp| .Dado que el objetivo del Adaline es poder estimar de lamanera más exacta la salida (conseguir una salida exactaes prácticamente imposible en la mayoría de los casos),se busca minimizar la desviación de la red para todos lospatrones de entrada, eligiendo una medida del error glo-bal. Normalmente se utiliza el error cuadrático medio.E = 1

2

∑mp=1(d

p − yp)2

La manera de reducir este error global es ir modificandolos valores de los pasos al procesar cada entrada, de for-ma iterativa, mediante la regla del descenso del gradiente.Suponiendo que tenemos una constante de aprendizaje α:

∆pwj = −α∂Ep

∂wj

Si operamos con la derivada, queda:∆pwj = α(dp − yp) · xj

Que será la expresión que utilizaremos por cada entradapara modificar los pesos.

3 Ventajas

Con respecto al perceptrón el Adaline posee la ventaja deque su gráfica de error es un hiperparaboloide que poseeo bien un único mínimo global, o bien una recta de in-finitos mínimos, todos ellos globales. Esto evita la grancantidad de problemas que da el perceptrón a la hora delentrenamiento debido a que su función de error (tambiénllamada de coste) posee numerosos mínimos locales.

4 Aplicaciones• Asociación de patrones: se puede aplicar a este ti-po de problemas siempre que los patrones sean li-nealmente separables.

En el campo del procesamiento de señales:

• Filtros de ruido: Limpiar ruido de señales transmi-soras de información.

• Filtros adaptativos: Un adaline es capaz de pre-decir el valor de una señal en el instante t+1 si seconoce el valor de la misma en los p instantes ante-riores (p es >0 y su valor depende del problema). Elerror de la predicción será mayor o menor según quéseñal queramos predecir. Si la señal se correspondea una serie temporal el Adaline, pasado un tiempo,será capaz de dar predicciones exactas.

Se pueden combinar múltiples Adalines formando lo quese denomina el Madaline.

5 Referencias[1] Perceptrón simple y Adaline, Redes de Neuronas Artifi-

ciales, UC3M, RAI 2012.

[2] Adaline (Adaptive Linear)

1

Page 2: Adaline

2 6 TEXTO E IMÁGENES DE ORIGEN, COLABORADORES Y LICENCIAS

6 Texto e imágenes de origen, colaboradores y licencias

6.1 Texto• Adaline Fuente: https://es.wikipedia.org/wiki/Adaline?oldid=74960837 Colaboradores: Elwikipedista, LuchoX, BOT-Superzerocool, Tor-

bellino, Gaeddal, Alcojol, CEM-bot, TheOm3ga, PabloCastellano, Juan renombrado, BlackBeast, Muro Bot, Fdefreitas6, Nubecosmica,Farisori, Alecs.bot, BetoCG, Fredy.hl, Luckas-bot, Panderine!, Hprmedina, EmausBot, Omarhernandezgarnica, KLBot2, Cristian Cisnerosy Anónimos: 7

6.2 Imágenes

6.3 Licencia de contenido• Creative Commons Attribution-Share Alike 3.0