Aprendizaje de Máquina Introducciónc3.itm.edu.co/~gerardo.gutierrez/machinelearning... · como el...

23
Introducción Aprendizaje de Máquina Gerardo Gutiérrez Gutiérrez Alexis Rodríguez Gutiérrez

Transcript of Aprendizaje de Máquina Introducciónc3.itm.edu.co/~gerardo.gutierrez/machinelearning... · como el...

Page 1: Aprendizaje de Máquina Introducciónc3.itm.edu.co/~gerardo.gutierrez/machinelearning... · como el aprendizaje de máquina se han popularizado por la variedad de modelos con los

Introducción Aprendizaje de MáquinaGerardo Gutiérrez GutiérrezAlexis Rodríguez Gutiérrez

Page 2: Aprendizaje de Máquina Introducciónc3.itm.edu.co/~gerardo.gutierrez/machinelearning... · como el aprendizaje de máquina se han popularizado por la variedad de modelos con los

¿ Qué es Aprendizaje de Máquina?

"Field of study that gives computers the ability to learn without being explicitly programmed" [1]

"A computer program is said to learn from experience E with respect to some class of tasks T and performance measure P, if its performance at tasks in T, as measured by P, improves with experience E" [2]

“ ...we define machine learning as a set of methods that can automatically detect patterns in data, and then use the uncovered patterns to predict future data, or to perform other kinds of decision making under uncertainty...” [3]

Page 3: Aprendizaje de Máquina Introducciónc3.itm.edu.co/~gerardo.gutierrez/machinelearning... · como el aprendizaje de máquina se han popularizado por la variedad de modelos con los

¿Por qué usar aprendizaje de máquina?

El rápido crecimiento de la información, ha hecho imposible que un humano sea capaz de procesar y analizar tal cantidad de datos, por lo tanto técnicas como el aprendizaje de máquina se han popularizado por la variedad de modelos con los que se puede analizar grandes volúmenes de datos de forma más rápida y precisa.

El resultado de usar aprendizaje de máquina son predicciones de alto valor que pueden guiar y tomar las mejores decisiones sin necesidad de la intervención humana.

Page 4: Aprendizaje de Máquina Introducciónc3.itm.edu.co/~gerardo.gutierrez/machinelearning... · como el aprendizaje de máquina se han popularizado por la variedad de modelos con los

Ejemplos de aplicaciones de aprendizaje de máquina ● Reconocimientos de Caracteres Escritos a Mano● Biometría● Reconocimiento de Caracteres Ópticos● Detección de fraudes● Filtración de Spam● Reconocimiento de Voz● Sistemas de Recomendación● Pronóstico de Variables Económicas● Diversos Sistemas de Ayuda a la Toma de Decisiones

Page 5: Aprendizaje de Máquina Introducciónc3.itm.edu.co/~gerardo.gutierrez/machinelearning... · como el aprendizaje de máquina se han popularizado por la variedad de modelos con los

Tipos de Aprendizaje de Máquina

Aprendizaje deMáquina

Predictivo - Supervisado Descriptivo - No Supervisado

Page 6: Aprendizaje de Máquina Introducciónc3.itm.edu.co/~gerardo.gutierrez/machinelearning... · como el aprendizaje de máquina se han popularizado por la variedad de modelos con los

Tipos de Aprendizaje de Máquina

Aprendizaje deMáquina

Predictivo - Supervisado

El objetivo es aprender un mapeo a partir de entradas x a salidas y, dado un conjunto de pares entrada-salida etiquetados En esta caso D se conoce como el conjunto de entrenamiento y N es el número de muestras allí.

Page 7: Aprendizaje de Máquina Introducciónc3.itm.edu.co/~gerardo.gutierrez/machinelearning... · como el aprendizaje de máquina se han popularizado por la variedad de modelos con los

Ejemplo Aprendizaje Supervisado

Page 8: Aprendizaje de Máquina Introducciónc3.itm.edu.co/~gerardo.gutierrez/machinelearning... · como el aprendizaje de máquina se han popularizado por la variedad de modelos con los

Conceptos Aprendizaje de Máquina

Atributo 1 Atributo 2 Atributo 3 ... Atributo d Salida

Muestra 1 1.5 ^ ... A

Muestra 2 2.5 Ausente / ... H

... ... ... ... ... Ty

Muestra N -3.4 ) ... Yt

NOTA: Atributo = Característica

Atributo: Variables o medidas del sistema o fenómeno que se desea modelarMuestra: Conjunto de uno o más atributos.

Page 9: Aprendizaje de Máquina Introducciónc3.itm.edu.co/~gerardo.gutierrez/machinelearning... · como el aprendizaje de máquina se han popularizado por la variedad de modelos con los

En principio la salida o Variable respuesta puede ser cualquier cosa, pero la mayoría de métodos asume que, y es una variable categórica o nominal de un conjunto finito de ( como hombre o mujer), o que y es un valor real (como el nivel de ingresos de una empresa)

Conceptos Aprendizaje de Máquina

Salida Tipo de problema

Categórica Clasificación o Reconocimiento de Patrones

Valor real Regresión

Page 10: Aprendizaje de Máquina Introducciónc3.itm.edu.co/~gerardo.gutierrez/machinelearning... · como el aprendizaje de máquina se han popularizado por la variedad de modelos con los

Tipos de Aprendizaje de Máquina

Predictivo - Supervisado

Clasificación

Regresión

El objetivo es aprender un mapeo a partir de entradas x a salidas y, dado un conjunto de pares entrada-salida etiquetados

Page 11: Aprendizaje de Máquina Introducciónc3.itm.edu.co/~gerardo.gutierrez/machinelearning... · como el aprendizaje de máquina se han popularizado por la variedad de modelos con los

Tipos de Aprendizaje de Máquina

Predictivo - Supervisado

Clasificación

El objetivo es aprender a mapear desde entradas x a salidas y, donde donde C es el número de clases.

C [ Número de clases] Tipo de clasificación

C = 2 Clasificación Biclase-Binaria

C > 2 Clasificación Multiclase

Una manera de formalizar el problema es con una función de aproximación.Podemos asumir que para una función desconocida f , y el objetivo del aprendizaje es estimar la función f , y hacer predicciones usando Nuestro mayor objetivo es realizar predicciones a partir de muestras no utilizadas en el entrenamiento.

Page 12: Aprendizaje de Máquina Introducciónc3.itm.edu.co/~gerardo.gutierrez/machinelearning... · como el aprendizaje de máquina se han popularizado por la variedad de modelos con los

Tipos de Aprendizaje de Máquina

Predictivo - Supervisado

Clasificación Retos

Variabilidad Entre-ClasesVariabilidad Intra-Clase

Page 13: Aprendizaje de Máquina Introducciónc3.itm.edu.co/~gerardo.gutierrez/machinelearning... · como el aprendizaje de máquina se han popularizado por la variedad de modelos con los

Tipos de Aprendizaje de Máquina

Predictivo - Supervisado

Regresión

El objetivo es aprender a mapear desde entradas x a salidas y, donde

Una manera de formalizar el problema es con una función de aproximación.Podemos asumir que para una función desconocida f , y el objetivo del aprendizaje es estimar la función f , y hacer predicciones usando Nuestro mayor objetivo es realizar predicciones a partir de muestras no utilizadas en el entrenamiento.

Page 14: Aprendizaje de Máquina Introducciónc3.itm.edu.co/~gerardo.gutierrez/machinelearning... · como el aprendizaje de máquina se han popularizado por la variedad de modelos con los

El objetivo es hallar “patrones interesantes” a partir de entradas x sin etiquetar, de la forma , es también llamado descubrimiento de conocimiento.Este es un problema no muy bien definido ya que inicialmente no se sabe cuáles patrones buscar y además no existe métrica de error para comparar resultados.

Tipos de Aprendizaje de Máquina

Aprendizaje deMáquina

Descriptivo - No Supervisado

Page 15: Aprendizaje de Máquina Introducciónc3.itm.edu.co/~gerardo.gutierrez/machinelearning... · como el aprendizaje de máquina se han popularizado por la variedad de modelos con los

Ejemplo Aprendizaje No Supervisado

Page 16: Aprendizaje de Máquina Introducciónc3.itm.edu.co/~gerardo.gutierrez/machinelearning... · como el aprendizaje de máquina se han popularizado por la variedad de modelos con los

Tipos de Aprendizaje de Máquina

Aprendizaje deMáquina

Predictivo - Supervisado Descriptivo - No Supervisado

¿ Preguntas ?

Page 17: Aprendizaje de Máquina Introducciónc3.itm.edu.co/~gerardo.gutierrez/machinelearning... · como el aprendizaje de máquina se han popularizado por la variedad de modelos con los

Conceptos Aprendizaje de Máquina

Modelos Paramétricos

En los modelos paramétricos se hace una suposición sobre la forma que tiene la función f, es decir se asume que los datos siguen un modelo predefinido. El modelo está descrito por una serie de parámetros que son ajustados al problema particular durante la etapa de entrenamiento.

Asumir que un conjunto de datos sigue una función de densidad Gausiana (2 parámetros) o Asumir que el comportamiento de un conjunto de datos se puede representar usando una función polinómica de segundo orden (3 parámetros).

Page 18: Aprendizaje de Máquina Introducciónc3.itm.edu.co/~gerardo.gutierrez/machinelearning... · como el aprendizaje de máquina se han popularizado por la variedad de modelos con los

Conceptos Aprendizaje de Máquina

Los modelos no paramétricos por el contrario no realizan suposiciones sobre la forma de la función que mejor representa los datos.

Modelos No Paramétricos

Dividir el espacio en celdas de tamaño constante constituye un modelo no paramétrico, ya que el elegir el tamaño de la celda no define un comportamiento para los datos.

Page 19: Aprendizaje de Máquina Introducciónc3.itm.edu.co/~gerardo.gutierrez/machinelearning... · como el aprendizaje de máquina se han popularizado por la variedad de modelos con los

Diseño Etapa de Aprendizaje

¿ Cuál es el Modelo ?

¿ Cuál es el criterio ?

¿ Cuál es el algoritmo ?

Cuando nos enfrentamos al problema de aprendizaje de máquina debemos responder a tres preguntas fundamentales

Page 20: Aprendizaje de Máquina Introducciónc3.itm.edu.co/~gerardo.gutierrez/machinelearning... · como el aprendizaje de máquina se han popularizado por la variedad de modelos con los

Diseño Etapa de Aprendizaje

¿ Cuál es el Modelo ?

Cuando nos enfrentamos al problema de aprendizaje de máquina debemos responder a tres preguntas fundamentales

Cuál es el modelo que vamos a usar teniendo en cuenta el problema a resolver, es decir la estructura que tiene el conjunto de datos. Es importante tener en cuenta que todo modelo tiene parámetros que se deben ajustar para que pueda adaptarse (aprender) al problema particular que deseamos abordar

Page 21: Aprendizaje de Máquina Introducciónc3.itm.edu.co/~gerardo.gutierrez/machinelearning... · como el aprendizaje de máquina se han popularizado por la variedad de modelos con los

Diseño Etapa de Aprendizaje

¿ Cuál es el criterio ?

Cuando nos enfrentamos al problema de aprendizaje de máquina debemos responder a tres preguntas fundamentales

Cuál es el criterio de ajuste del modelo que vamos a usar. Es decir determinar qué es lo que queremos que haga el modelo con respecto al conjunto de muestras de entrenamiento y expresarlo a través de una función matemática.

Page 22: Aprendizaje de Máquina Introducciónc3.itm.edu.co/~gerardo.gutierrez/machinelearning... · como el aprendizaje de máquina se han popularizado por la variedad de modelos con los

Diseño Etapa de Aprendizaje

¿ Cuál es el algoritmo ?

Cuando nos enfrentamos al problema de aprendizaje de máquina debemos responder a tres preguntas fundamentales

Cuál es y cómo funciona el algoritmo que encuentra los parámetros del modelo de acuerdo al criterio escogido. En la mayoría de los casos la ejecución del criterio de entrenamiento implica un procedimiento de maximización (o minimización) de la función criterio.Por consiguiente en esta etapa necesitamos aplicar un algoritmo que pueda solucionar el problema de optimización.

Finalmente… como todo procedimiento de modelado, el aprendizaje de máquina debe pasar por etapas de verificación y validación que permitan establecer el correcto funcionamiento del modelo propuesto y cuantificar su desempeño en términos objetivos.

Page 23: Aprendizaje de Máquina Introducciónc3.itm.edu.co/~gerardo.gutierrez/machinelearning... · como el aprendizaje de máquina se han popularizado por la variedad de modelos con los

Referencias[1] Samuel, A. L. (2000). Some studies in machine learning using the game of checkers. IBM Journal of research and development, 44(1.2), 206-226.[2] Anderson, J. R. (1986). Machine learning: An artificial intelligence approach (Vol. 2). R. S. Michalski, J. G. Carbonell, & T. M. Mitchell (Eds.). Morgan Kaufmann.[3] Murphy, K. P. (2012). Machine learning: a probabilistic perspective. MIT press.