redes neuronales artificiales historia y teoria

Agosto 2002 ESCOM IPN 1

Redes Neuronales Artificiales I

Teoría y Diseño Teoría y Diseño

M en C. José Luis Calderón O.


UNIDAD I: Introducción a las Redes Neuronales Artificiales.

• Marco histórico de las redes neuronales artificiales.

• Definiciones de redes neuronales.• Características de las redes neuronales.• Aplicaciones de las redes neuronales.• El modelo biológico neuronal.• Elementos de una red neuronal artificial.• Estructuras de redes neuronales

artificiales.• Topologías de redes neuronales.• Algoritmos de aprendizaje.


Redes Neuronales Artificiales

Neural Networks

Biology Neurophysiology

Computer Science Artificial Intelligence

Engineering Pattern Classification

Control Theory

Mathematics Linear Algebra

Differential Eqns

Physics Dynamical Systems

Statistics Classification

Regression Analysis

Economics Time Series

Cognitive Psychology


Marco histórico de las redes neuronales

artificiales.


Marco Histórico de las Redes Neuronales

Antecedentes HistoricosAntecedentes Historicos• 1943 W. Mc Culloc y

W. Pitts. N. Digitales.• 1949 Donal Hebb

“ La organización del comportamiento”.

• 1951 M. Minsky & D. Edmonds. “SNARC”


Antecedentes Antecedentes HistóricosHistóricos

• 1957 F.Rosemblatt “El Perceptron”.

• 1959 B. Widrow y T. Hoff.

“Adaline & Madaline”• 1967 S. Grossberg

“ Red Avalancha”.



• 1969 M. Minsky y S Papert, “Perceptrons”.

• 1977 J. Anderson

“Asociador lineal, BSB”• 1978 Teuvo Kohonen

“Mapas Autoorganizativos (SOM)”



• 1980 K. Fukushima “Cognitron y Neocognitron”

• 1982 John Hopfield “Red Hopfield”

• 1982 Rumelhart, Hinton y William, “Algoritmo de retropropagación”


Definición de Red Neuronal

• Es una red compuesta de muchas unidades de procesamiento simple , cada una puede tener una cantidad pequeña de memoria local; las unidades están comunicadas a través de conexiones que usualmente transportan información numérica.

¿ Que es una Red Neuronal Artificial ?


Definiciones de redes

neuronales.


¿ Que es una Red Neuronal Artificial ?

• Algunas redes neuronales son modelos biológicos y otros no, gran parte del origen de las redes neuronales proviene del deseo de producir sistemas artificiales capaces de efectuar procesos sofisticados, quizás inteligentes, similares a los que realiza el cerebro humano comúnmente.


Definiciones de Definiciones de una RNAuna RNA

• Es un arreglo masivo de elementos de procesamiento simple llamados neuronas, los cuales poseen un alto grado de interconectividad entre sus elementos, en los que la información puede fluir en cascada o en retroceso. Estos arreglos están inspirados en la naturaleza biológica de las neuronas.


Definiciones Definiciones de una RNAde una RNA

• Las redes neuronales Artificiales son redes interconectadas masivamente en paralelo de elementos simples y con organización jerárquica, las cuales intentan interactuar con los objetos del mundo real del mismo modo que lo hace el sistema nervioso biológico.

Teuvo Kohonen


Características de las redes

neuronales.


Características Características de las RNAde las RNA

• Aprendizaje Adaptativo: Capacidad de aprender a realizar tareas basada en un entrenamiento experiencia inicial

• Autoorganización: Una red puede crear su propia organización o representacion de la información que recibe mediante una etapa de aprendizaje.



• Tolerancia a Fallos. La destrucción parcial de una red conduce a una degradación de su estructura; sin embargo algunas capacidades de la red se pueden retener, incluso sufriendo un gran daño.

• Operación en tiempo real. Los computadores neuronales pueden ser realizados en paralelo, y se diseñan y fabrican maquinas con hardware especial para obtener tal capacidad.



• Fácil construcción en CI. Se puede obtener chips especializados para redes neuronales que mejoren su capacidad en ciertas tareas . Ello facilitara la integracion modular delos sistemas existentes.


¿ Que puede hacer una Red Neuronal?

• Las Redes Neuronales son útiles para:

• Clasificación de patrones

• Aproximación de funciones

• Mapeo

• En los que exista información imprecisa y con tolerancia a fallos


Las Redes Neuronales no son útiles para:

• Predicción de números aleatorios o semi-aleatorios

• Procesamiento de enteros largos

• Determinación si un entero largo es primo o compuesto

• Desencriptar algo encriptado por un buen algoritmo.


Aplicaciones de las redes

neuronales.


Areas de Aplicación Areas de Aplicación Generales de las RNAGenerales de las RNA

Generales • Biología• Empresa• Medio Ambiente• Finanzas• Manufacturación• Medicina• Militar

Especificas• Reconocimiento de

patrones• Toma de Decisiones• Filtrado de Señales• Control de Robots


Otras Aplicaciones• Aerospace

• High performance aircraft autopilots, flight path simulations, aircraft control systems, autopilot enhancements, aircraft component simulations, aircraft component fault detectors

• Automotive• Automobile automatic guidance systems, warranty

activity analyzers

• Banking• Check and other document readers, credit application

evaluators


+ Aplicaciones

• Defense• Weapon steering, target tracking, object

discrimination, facial recognition, new kinds of sensors, sonar, radar and image signal processing including data compression, feature extraction and noise suppression, signal/image identification

• Electronics• Code sequence prediction, integrated circuit chip

layout, process control, chip failure analysis, machine vision, voice synthesis, nonlinear modeling


+ Aplicaciones

• Financial• Real estate appraisal, loan advisor, mortgage

screening, corporate bond rating, credit line use analysis, portfolio trading program, corporate financial analysis, currency price prediction

• Manufacturing• Manufacturing process control, product design

and analysis, process and machine diagnosis, real-time particle identification, visual quality inspection systems, beer testing, welding quality analysis, paper quality prediction,


+ Aplicaciones

• ++Manufacturing• computer chip quality analysis, analysis of grinding

operations, chemical product design analysis, machine maintenance analysis, project bidding, planning and management, dynamic modeling of chemical process systems

• Medical• Breast cancer cell analysis, EEG and ECG analysis,

prosthesis design, optimization of transplant times, hospital expense reduction, hospital quality improvement, emergency room test advisement


+ Aplicaciones

• Robotics• Trajectory control, forklift robot, manipulator

controllers, vision systems

• Speech• Speech recognition, speech compression, vowel

classification, text to speech synthesis

• Securities• Market analysis, automatic bond rating, stock

trading advisory systems


+ Aplicaciones

• Telecommunications– Image and data compression, automated

information services, real-time translation of spoken language, customer payment processing systems

• Transportation– Truck brake diagnosis systems, vehicle scheduling,

routing systems


Algunos Tipos de Redes Algunos Tipos de Redes Neuronales ArtificialesNeuronales Artificiales

Perceptron 1957 Reconocimiento de caract.impresos

Adaline &Madaline

1960 Filtrado deseñales

Backpropagation

1974-85 sintesis de vozcontrol derobots,patrones


Tipos de Redes Tipos de Redes NeuronalesNeuronales

N e o c o g n i t r o n 1 9 7 8 R e c o n o c . d ec a r a c t e r e sM a n u s c r i t o s

H o p f i e l d 1 9 8 2 R e c o n s t r u c . d ep a t r o n e s

S O M 1 9 8 0 - 8 4 R e c o n o c . d ep a t r o n e s c o d i f .d e d a t o s

A R T 1 9 8 6 R e c o n o c . d ep a t r o n e s( r a d a r , s o n a r )


Instituciones y Centros de Investigación

• Nacionales:

Cinvestav IPN, CIC, UNAM, UAM, ITESM, ESCOM, etc.

• Internacionales:

• MIT, UCLA, Universidad de Helsinky, Universidad Politécnica de Madrid, Texas A&M, etc.


Asociaciones de RNA

• 1987 International Neural Network

Society (INNS).

• 1988 International Joint Conference on

Neural Networks (IJNN).

• 1991 International Conference on

Artificial Neural Networks

(ICANN).


Publicaciones sobre RNA

• Neural Networks (INNS).

• Network, Computation in Neural System.

• IEEE Transactions on Neural Networks.

• Neural Computation.

• International Journal of Neural Systems.


Dudas ???


Hasta la próxima !!!

redes neuronales artificiales historia y teoria

Education