Sistemas neuronales

20
REPUBLICA BOLIVARIANA DE VENEZUELA MINISTERIO DEL PODER POPULAR PARA LA EDUCACION UNIVERSITARIA INSTITUTO UNIVERSITARIO POLITECNICO SANTIAGO MARIÑO ADMINISTRACIÓN DE SISTEMA DE INFORMACIÓN PROFESORA. MARÍA FERNANDA MORÑÓN INSTITUTO UNIVERSITARIO POLITECNICO SANTIAGO MARIÑO REDES NEURALES INTEGRANTES: DENGERBERTANTONIO BRAVO OJEDA LUISANGELA DEL CARMEN RENGEL MATA LUIS JOSE VASQUEZ RODRIGUEZ LUISANA PAOLA PARRA CORONA SILVA BARCARCEL ELIAS ENRIQUE FIGUEROA GOLLARZA FLAVIO RAFAEL YOENY GINFE BRAVO RONDON WALDEMAR JOSE DIAZ ROBLES

Transcript of Sistemas neuronales

REPUBLICA BOLIVARIANA DE VENEZUELAMINISTERIO DEL PODER POPULAR PARA LA EDUCACION

UNIVERSITARIAINSTITUTO UNIVERSITARIO POLITECNICO SANTIAGO

MARIÑOADMINISTRACIÓN DE SISTEMA DE INFORMACIÓN

PROFESORA. MARÍA FERNANDA MORÑÓN

INSTITUTO UNIVERSITARIO POLITECNICO

SANTIAGO MARIÑO REDES NEURALES

INTEGRANTES:

DENGERBERTANTONIO BRAVO OJEDALUISANGELA DEL CARMEN RENGEL MATALUIS JOSE VASQUEZ RODRIGUEZLUISANA PAOLA PARRA CORONASILVA BARCARCEL ELIAS ENRIQUEFIGUEROA GOLLARZA FLAVIO RAFAELYOENY GINFE BRAVO RONDONWALDEMAR JOSE DIAZ ROBLES

INTRODUCCION

Las redes neuronales son más que otra forma de emular ciertas características propias de los humanos, como la capacidad de memorizar y de asociar hechos. Si se examinan con atención aquellos problemas que no pueden expresarse a través de un algoritmo, se observará que todos ellos tienen una característica en común: la experiencia. El hombre es capaz de resolver estas situaciones acudiendo a la experiencia acumulada. Así, parece claro que una forma de aproximarse al problema consista en la construcción de sistemas que sean capaces de reproducir esta característica humana.

En definitiva, las redes neuronales no son más que un modelo artificial y simplificado del cerebro humano, que es el ejemplo más perfecto del que disponemos para un sistema que es capaz de adquirir conocimiento a través de la experiencia. Una red neuronal es "un nuevo sistema para el tratamiento de la información, cuya unidad básica de procesamiento está inspirada en la célula fundamental del sistema nervioso humano: la neurona".

Todos los procesos del cuerpo humano se relacionan en alguna u otra forma con la (in)actividad de estas neuronas. Las mismas son un componente relativamente simple del ser humano, pero cuando millares de ellas se conectan en forma conjunta se hacen muy poderosas.

REDES NEURONALES

Las Redes Neuronales son un campo muy importante dentro de la inteligencia artificial. Inspirándose en el comportamiento conocido del cerebro humano (principalmente el referido a las neuronas y sus conexiones), trata de crear modelos artificiales que solucionen problemas difíciles de resolver mediante técnicas algorítmicas convencionales.

En esta página web trataremos de acercar al visitante a este tema, mostrando las bases neurológicas y matemáticas, los principales modelos vigentes y ejemplos interactivos que solucionan algunos problemas de forma eficaz.

Las Redes Neuronales son un campo muy importante dentro de la inteligencia artificial. Inspirándose en el comportamiento conocido del cerebro humano (principalmente el referido a las neuronas y sus conexiones), trata de crear modelos artificiales que solucionen problemas difíciles de resolver mediante técnicas algorítmicas convencionales.

En esta página web trataremos de acercar al visitante a este tema, mostrando las bases neurológicas y matemáticas, los principales modelos vigentes y ejemplos interactivos que solucionan algunos problemas de forma eficaz.

REDES NEURONALES

Últimamente, las redes neuronales están volviendo a la actualidad por los logros que están consiguiendo. Por ejemplo, Google ha logrado derrotar a su propio reCAPTCHA con redes neuronales, en Stanford han conseguido generar pies de fotos automáticamente... Metas bastante impresionantes y que cada vez se acercan más a esa idea original de reproducir el funcionamiento del cerebro humano en un ordenador.

Ahora bien, en qué consisten estos modelos Cómo puede imitar un ordenador el proceso de aprendizaje y acabar desarrollando una "cosa" que funciona Hoy en Xataka vamos a profundizar un poco en este tema que tanta atención está logrando, y vamos a empezar, como siempre, por el principio.

HISTORIA DE LAS REDES

NEURONALES   Desde la década de los 40, en la que nació y comenzó a desarrollarse la informática, el modelo neuronal la ha acompañado. De hecho, la aparición de los computadores digitales y el desarrollo de las teorías modernas acerca del aprendizaje y del procesamiento neuronal se produjeron aproximadamente al mismo tiempo, a finales de los años cuarenta.

Desde entonces hasta nuestros días, la investigación neurofisiológica y el estudio de sistemas neuronales artificiales (ANS, Artificial Neural Systems) han ido de la mano. Sin embargo, los modelos de ANS no se centran en la investigación neurológica, si no que toma conceptos e ideas del campo de las ciencias naturales para aplicarlos a la resolución de problemas pertenecientes a otras ramas de las ciencias y la ingeniería.

HISTORIA DE LAS REDES

NEURONALES Podemos decir que la tecnología ANS incluye modelos inspirados por nuestra comprensión del cerebro, pero que no tienen por qué ajustarse exactamente a los modelos derivados de dicho entendimiento.

Los primeros ejemplos de estos sistemas aparecen al final de la década de los cincuenta. La referencia histórica más corriente es la que alude al trabajo realizado por Frank Rosenblatt en un dispositivo denominado perceptrón. Hay otros ejemplos, tales como el desarrollo del Adaline por el profesor Bernard Widrow.

Durante todos estos años, la tecnología ANS no siempre ha tenido la misma consideración en las ramas de la ingeniería y las ciencias de la computación, más ansiosas de resultados que las ciencias neuronales. A partir de 1969, el pesimismo debido a las limitadas capacidades del perceptrón hizo languidecer este tipo de investigación.

HISTORIA DE LAS REDES NEURONALES

A principios de los 80, por un lado Hopfield y sus conferencias acerca de la memoria auto asociativa y por otro lado la aparición del libro Parallel Distributed Processing (PDP), escrito por Rumelhart y McClelland reactivaron la investigación en el campo de las redes neuronales. Hubo grandes avances que propiciaron el uso comercial en campos tan variados como el diagnóstico de enfermedades, la aproximación de funciones o el reconocimiento de imágenes. Hoy en día, la tecnología ANS no está en su mejor momento, pero a pesar de ello existen revistas, ciclos de conferencias, etc.; que mantienen vías de investigación abiertas.

MODELO DE NEURONA ARTIFICIAL

    El modelo de Rumelhart y McClelland (1986) define un elemento de proceso (EP), o neurona artificial, como un dispositivo que a partir de un conjunto de entradas, xi (i=1...n) o vector x, genera una única salida y.

Esta neurona artificial consta de los siguientes elementos:

    · Conjunto de entradas o vector de entradas x, de n componentes

·Conjunto de pesos sinápticos wij. Representan la interacción entre la neurona presináptica j y la postsináptica i.

·Regla de propagación d(wij,xj(t)): proporciona el potencial postsináptico, hi(t).

·Función de activación ai(t)=f(ai(t-1), hi(t)): proporciona el estado de activación de la neurona en función del estado anterior y del valor postsináptico.

·Función de salida Fi(t): proporciona la salida yi(t), en función del estado de activación.

MODELO DE NEURONA ARTIFICIAL

Las señales de entrada y salida pueden ser señales binarias (0,1 – neuronas de McCulloch y Pitts), bipolares (-1,1), números enteros o continuos, variables borrosas, etc. La regla de propagación suele ser una suma ponderada del producto escalar del vector de entrada y el vector de pesos:

También se usa a menudo la distancia euclídea entre ambos vectores:

También se usa a menudo la distancia euclídea entre ambos vectores: Existen otro tipo de reglas menos conocidas como la distancia de Voronoi, de Mahalanobis, etc. La función de activación no suele tener en cuenta el estado anterior de la neurona, sino sólo el potencial hi(t). Suele ser una función determinista y, casi siempre, continua y monótona creciente. Las más comunes son la función signo (+1 si hi(t)>0, -1 en caso contrario), la función semilineal y las funciones sigmoides:

RED NEURONAL ARTIFICIAL

Una red neuronal artificial (RNA) se puede definir (Hecht – Nielssen 93) como un grafo dirigido con las siguientes restricciones:

Los nodos se llaman elementos de proceso (EP).

Los enlaces se llaman conexiones y funcionan como caminos unidireccionales instantáneos

Cada EP puede tener cualquier número de conexiones.

Todas las conexiones que salgan de un EP deben tener la misma señal.

Los EP pueden tener memoria local.

Cada EP posee una función de transferencia que, en función de las entradas y la memoria local produce una señal de salida y / o altera la memoria local.

Las entradas a la RNA llegan del mundo exterior, mientras que sus salidas son conexiones que abandonan la RNA.

ARQUITECTURA DE LA RED NEURONAL

ARTIFICIAL La arquitectura de una RNA es la estructura o patrón de conexiones de la red. Es conveniente recordar que las conexiones sinápticas son direccionales, es decir, la información sólo se transmite en un sentido. En general, las neuronas suelen agruparse en unidades estructurales llamadas capas. Dentro de una capa, las neuronas suelen ser del mismo tipo. Se pueden distinguir tres tipos de capas:

·De entrada: reciben datos o señales procedentes del entorno. ·De salida: proporcionan la respuesta de la red a los estímulos de la entrada. ·Ocultas: no reciben ni suministran información al entorno (procesamiento interno de la red). Generalmente las conexiones se realizan entre neuronas de distintas capas, pero puede haber conexiones intracapa o laterales y conexiones de realimentación que siguen un sentido contrario al de entrada-salida.

 

ARQUITECTURA DE LA RED NEURONAL ARTIFICIAL

APRENDIZAJE DE LA RED NEURONAL ARTIFICIAL

Es el proceso por el que una RNA actualiza los pesos (y, en algunos casos, la arquitectura) con el propósito de que la red pueda llevar a cabo de forma efectiva una tarea determinada.

  Hay tres conceptos fundamentales en el aprendizaje:

  Paradigma de aprendizaje: información de la que dispone la red.Regla de aprendizaje: principios que gobiernan el aprendizaje.Algoritmo de aprendizaje: procedimiento numérico de ajuste de los pesos.

         Existen dos paradigmas fundamentales de aprendizaje: Supervisado: la red trata de minimizar un error entre la salida que calcula y la salida deseada (conocida), de modo que la salida calculada termine siendo la deseada. No supervisado o auto organizado: la red conoce un conjunto de patrones sin conocer la respuesta deseada. Debe extraer rasgos o agrupar patrones similares.

APRENDIZAJE DE LA RED NEURONAL ARTIFICIAL

    En cuanto a los algoritmos de aprendizaje, tenemos cuatro tipos:

  Minimización del error: reducción del gradiente, retro propagación, etc. La modificación de pesos está orientada a que el error cometido sea mínimo.

  Boltzmann: para redes estocásticas, donde se contemplan parámetros aleatorios.

  Hebb: cuando el disparo de una célula activa otra, el peso de la conexión entre ambas tiende a reforzarse (Ley de Hebb).

  Competitivo: sólo aprenden las neuronas que se acercan más a la salida deseada.

CARACTERÍSTICAS DE LAS REDES NEURONALES ARTIFICIALES

Las Redes Neuronales Artificiales, ANN (Artificial Neural Networks) están inspiradas en las redes neuronales biológicas del cerebro humano. Están constituidas por elementos que se comportan de forma similar a la neurona biológica en sus funciones más comunes. Estos elementos están organizados de una forma parecida a la que presenta el cerebro humano. Las ANN al margen de "parecerse" al cerebro presentan una serie de características propias del cerebro. Por ejemplo las ANN aprenden de la experiencia, generalizan de ejemplos previos a ejemplos nuevos y abstraen las características principales de una serie de datos. Aprender: adquirir el conocimiento de una cosa por medio del estudio, ejercicio o experiencia. Las ANN pueden cambiar su comportamiento en función del entorno. Se les muestra un conjunto de entradas y ellas mismas se ajustan para producir unas salidas consistentes. Generalizar: extender o ampliar una cosa. Las ANN generalizan automáticamente debido a su propia estructura y naturaleza. Estas redes pueden ofrecer, dentro de un margen, respuestas correctas a entradas que presentan pequeñas variaciones debido a los efectos de ruido o distorsión. Abstraer: aislar mentalmente o considerar por separado las cualidades de un objeto. Algunas ANN son capaces de abstraer la esencia de un conjunto de entradas que aparentemente no presentan aspectos comunes o relativos.

ESTRUCTURA DE LAS REDES NEURONALES ARTIFICIALES La neurona es la unidad fundamental del sistema nervioso y en particular del cerebro. Cada neurona es una simple unidad procesadora que recibe y combina señales desde y hacia otras neuronas. Si la combinación de entradas es suficientemente fuerte la salida de la neurona se activa. La Figura (1.1) muestra las partes que constituyen una neurona.

El cerebro consiste en uno o varios billones de neuronas densamente interconectadas. El axón (salida) de la neurona se ramifica y está conectada a las dendritas (entradas) de otras neuronas a través de uniones llamadas sinapsis. La eficacia de la sinapsis es modificable durante el proceso de aprendizaje de la red. Redes Neuronales Artificiales.- En las Redes Neuronales Artificiales, ANN, la unidad análoga a la neurona biológica es el elemento procesador, E (process element). Un elemento procesador tiene varias entradas y las combina, normalmente con una suma básica. La suma de las entradas es modificada por una función de transferencia y el valor de la salida de esta función de transferencia se pasa directamente a la salida del elemento procesador. La salida del PE se puede conectar a las entradas de otras neuronas artificiales (PE) mediante conexiones ponderadas correspondientes a la eficacia de la sinapsis de las conexiones neuronales.

VENTAJAS DE LAS REDES NEURONALES ARTIFICIALES

Las redes neuronales artificiales (RNA) tienen muchas ventajas debido a que están basadas en la estructura del sistema nervioso, principalmente el cerebro.

Aprendizaje: Las RNA tienen la habilidad de aprender mediante una etapa que se llama etapa de aprendizaje. Esta consiste en proporcionar a la RNA datos como entrada a su vez que se le indica cuál es la salida (respuesta) esperada.

Auto organización: Una RNA crea su propia representación de la información en su interior, quitándole esta tarea al usuario.

VENTAJAS DE LAS REDES NEURONALES ARTIFICIALES

Tolerancia a fallos: Debido a que una RNA almacena la información de forma redundante, ésta puede seguir respondiendo de manera aceptable aun si se daña parcialmente.

Flexibilidad: Una RNA puede manejar cambios no importantes en la información de entrada, como señales con ruido u otros cambios en la entrada (por ejemplo si la información de entrada es la imagen de un objeto, la respuesta correspondiente no sufre cambios si la imagen cambia un poco su brillo o el objeto cambia ligeramente).

Tiempo real: La estructura de una RNA es paralela, por lo cual si esto es implementado con computadoras o en dispositivos electrónicos especiales, se pueden obtener respuestas en tiempo real.

APLICACIONES DE LAS REDES NEURONALES ARTIFICIALES

Las características de las RNA las hacen bastante apropiadas para aplicaciones en las que no se dispone a priori de un modelo identificable que pueda ser programado, pero se dispone de un conjunto básico de ejemplos de entrada (previamente clasificados o no). Asimismo, son altamente robustas tanto al ruido como a la disfunción de elementos concretos y son fácilmente paralelizadles.

Esto incluye problemas de clasificación y reconocimiento de patrones de voz, imágenes, señales, etc. Asimismo se han utilizado para encontrar patrones de fraude económico, hacer predicciones en el mercado financiero, hacer predicciones de tiempo atmosférico, etc.

También se pueden utilizar cuando no existen modelos matemáticos precisos o algoritmos con complejidad razonable, por ejemplo la red de Kohonen ha sido aplicada con un éxito más que razonable al clásico problema del viajante (un problema para el que no se conoce solución algorítmica de complejidad polinómica).

Otro tipo especial de redes neuronales artificiales se ha aplicado en conjunción con los algoritmos genéticos (AG) para crear controladores para robots. La disciplina que trata la evolución de redes neuronales mediante algoritmos genéticos se denomina Robótica Evolutiva. En este tipo de aplicación el genoma del AG lo constituyen los parámetros de la red (topología, algoritmo de aprendizaje, funciones de activación, etc.) y la adecuación de la red viene dada por la adecuación del comportamiento exhibido por el robot controlado (normalmente una simulación de dicho comportamiento).

CONCLUSION

Las Redes Neuronales Artificiales basadas en los sistemas nerviosos biológicos reproducen al menos el funcionamiento del cerebro humano, sea en hardware o software, El aprendizaje de sistemas neuronales directas tiene un proceso mediante el empleo del algoritmo de retro propagación (backpropagation), realizando el ajuste de pesos entre las capas de la red. La construcción de las redes neuronales artificiales hace uso de metodologías de desarrollo de software. Las redes neuronales artificiales tienen un amplio campo de aplicaciones donde se requiera la solución a problemas, desde actividades de investigación hasta aplicaciones comerciales e industriales.