MÍNIMOS CUADRADOS. A mxn A x = b Sistema Inconsistente.

78
MÍNIMOS CUADRADOS

Transcript of MÍNIMOS CUADRADOS. A mxn A x = b Sistema Inconsistente.

Page 1: MÍNIMOS CUADRADOS. A mxn A x = b Sistema Inconsistente.

MÍNIMOS CUADRADOS

Page 2: MÍNIMOS CUADRADOS. A mxn A x = b Sistema Inconsistente.

A mxn

A x = b

Sistema Inconsistente

Page 3: MÍNIMOS CUADRADOS. A mxn A x = b Sistema Inconsistente.

A x = b

consistenteb está en CA

A x = b

inconsistente

b no está en CA

Page 4: MÍNIMOS CUADRADOS. A mxn A x = b Sistema Inconsistente.

b

Page 5: MÍNIMOS CUADRADOS. A mxn A x = b Sistema Inconsistente.

A x* es un vector del espacio columna CA

A x* = proy CAb

A x* = b*

Sistema Consistente

Page 6: MÍNIMOS CUADRADOS. A mxn A x = b Sistema Inconsistente.
Page 7: MÍNIMOS CUADRADOS. A mxn A x = b Sistema Inconsistente.

b – A x* mínima

Page 8: MÍNIMOS CUADRADOS. A mxn A x = b Sistema Inconsistente.

x* es una solución de

A x* = b*

x* es una solución de

aproximación de

A x = b

Page 9: MÍNIMOS CUADRADOS. A mxn A x = b Sistema Inconsistente.

A fin de encontrar x* a partir de A x* = b*

podríamos partir de

A x* = proyCAb

Page 10: MÍNIMOS CUADRADOS. A mxn A x = b Sistema Inconsistente.

Existe una mejor manera de conseguirlo

( b – A x* )

es ortogonal a cada vector de CA

Page 11: MÍNIMOS CUADRADOS. A mxn A x = b Sistema Inconsistente.

Por lo tanto,

( b – A x* ) es ortogonal

a cada vector columnade A

Page 12: MÍNIMOS CUADRADOS. A mxn A x = b Sistema Inconsistente.

c1 . ( b – A x* ) = 0

c2 . ( b – A x* ) = 0

c1T . ( b – A x* ) = 0

c2T . ( b – A x* ) = 0

Page 13: MÍNIMOS CUADRADOS. A mxn A x = b Sistema Inconsistente.

AT . ( b – A x* ) = 0

AT b – ATA x* = 0

ATA x* = AT b

Page 14: MÍNIMOS CUADRADOS. A mxn A x = b Sistema Inconsistente.

ATA x* = AT b

Ecuaciones Normales

Page 15: MÍNIMOS CUADRADOS. A mxn A x = b Sistema Inconsistente.

A AT matriz nxn simétrica

Page 16: MÍNIMOS CUADRADOS. A mxn A x = b Sistema Inconsistente.

A mxn y b en Rm

A x = b siempre tiene al menos una solución por mínimos cuadrados ( o por aproximación ) x*

Page 17: MÍNIMOS CUADRADOS. A mxn A x = b Sistema Inconsistente.

x* es una solución por mínimos cuadrados de

A x = b

si y sólo si

x* es una solución de las ecuaciones normales

ATA x* = AT b

Page 18: MÍNIMOS CUADRADOS. A mxn A x = b Sistema Inconsistente.

A tiene columnas LI si y sólo si

ATA es Invertible

En este casola solución de aproximación de

A x = b es única y está dada por

Page 19: MÍNIMOS CUADRADOS. A mxn A x = b Sistema Inconsistente.

x* = ( AT A )-1ATb seudoinversa de A

Page 20: MÍNIMOS CUADRADOS. A mxn A x = b Sistema Inconsistente.

x - y = 0

x + y = 0 SEL

y = 1 Inconsistente

A x = b

0

1

1

1

1

1

y

x

1

0

0

=

Page 21: MÍNIMOS CUADRADOS. A mxn A x = b Sistema Inconsistente.

Columnas de A LI

ATA = Invertible

x* única solución por aproximación

0

2

3

0

Page 22: MÍNIMOS CUADRADOS. A mxn A x = b Sistema Inconsistente.

x* = ( AT A )-1ATb

x* =

Page 23: MÍNIMOS CUADRADOS. A mxn A x = b Sistema Inconsistente.
Page 24: MÍNIMOS CUADRADOS. A mxn A x = b Sistema Inconsistente.

x* solución por mínimos cuadrados de A x = b

b – A x*error de

mínimos cuadrados

Page 25: MÍNIMOS CUADRADOS. A mxn A x = b Sistema Inconsistente.

= b – A x*vector de error de

mínimos cuadrados

Page 26: MÍNIMOS CUADRADOS. A mxn A x = b Sistema Inconsistente.

vector de error de mínimos cuadrados

1

0

0

0

1

1

1

1

1

- =

3/2

3/1

3/1

b - A x* =

1

2

3

Page 27: MÍNIMOS CUADRADOS. A mxn A x = b Sistema Inconsistente.

error de mínimos cuadrados

=b – A x* 0,2721655

Page 28: MÍNIMOS CUADRADOS. A mxn A x = b Sistema Inconsistente.

Observar las ecuacionesdel sistema

x - y = 0 0 – ( 0 -1/3 ) = 1/3 1

x + y = 0 0 – ( 0 +1/3 ) = -1/3 2

y = 1 1 – ( 0 +1/3 ) = 2/3 3

Page 29: MÍNIMOS CUADRADOS. A mxn A x = b Sistema Inconsistente.
Page 30: MÍNIMOS CUADRADOS. A mxn A x = b Sistema Inconsistente.

Columnas de A LDATA No es Invertible

las ecuaciones normales

ATA x* = AT b

tienen un número infinito de soluciones

Page 31: MÍNIMOS CUADRADOS. A mxn A x = b Sistema Inconsistente.

Buscaremos entonces la solución x* de menor longitud

(la más cercana al origen)

Page 32: MÍNIMOS CUADRADOS. A mxn A x = b Sistema Inconsistente.

APLICACIONES

Ajuste de Curvas por Mínimos Cuadrados

Page 33: MÍNIMOS CUADRADOS. A mxn A x = b Sistema Inconsistente.

Curvas que se ajustan aproximadamentea los datos

Page 34: MÍNIMOS CUADRADOS. A mxn A x = b Sistema Inconsistente.
Page 35: MÍNIMOS CUADRADOS. A mxn A x = b Sistema Inconsistente.

Encontrar la recta que da el mejor ajuste

para los puntos (1,4) , (-2,5), (3,-1) y (4,1)

y = b + mx

Page 36: MÍNIMOS CUADRADOS. A mxn A x = b Sistema Inconsistente.

4 = b + m

5 = b - 2m

-1 = b + 3m

1 = b + 4m

Sistema Inconsistente

Page 37: MÍNIMOS CUADRADOS. A mxn A x = b Sistema Inconsistente.

1

1

5

4

4

3

2

1

m

b=

Columnas de A LI

ATA Invertible

x* única solución por aproximación

Page 38: MÍNIMOS CUADRADOS. A mxn A x = b Sistema Inconsistente.

x* = ( AT A )-1ATy

x* =

y = 3,57 – 0,88 x

88,0

57,3

Page 39: MÍNIMOS CUADRADOS. A mxn A x = b Sistema Inconsistente.

vector de error de mínimos cuadrados

4

3

2

1

88,0

57,3

1

1

5

4

_

05,1

93,1

33,0

31,1

=

A x*

_

y =

Page 40: MÍNIMOS CUADRADOS. A mxn A x = b Sistema Inconsistente.

error de mínimos cuadrados

=b – A x* 2,579224

Page 41: MÍNIMOS CUADRADOS. A mxn A x = b Sistema Inconsistente.

Observar la primera ecuacióndel sistema

4 = b + m4 = 3,57 + (- 0,88)

4 – 2,69 = 1,31= 1

(primer componente del

vector )

Page 42: MÍNIMOS CUADRADOS. A mxn A x = b Sistema Inconsistente.
Page 43: MÍNIMOS CUADRADOS. A mxn A x = b Sistema Inconsistente.

Encontrar el mejor ajuste cuadrático para

los puntos

(1,4) , (-2,5), (3,-1) y (4,1)

y = a + bx + cx2

Page 44: MÍNIMOS CUADRADOS. A mxn A x = b Sistema Inconsistente.

4 = a + b + c

5 = a - 2b + 4c

-1 = a + 3b + 9c

1 = a + 4b + 16cSistema Inconsistente

Page 45: MÍNIMOS CUADRADOS. A mxn A x = b Sistema Inconsistente.

Columnas de A LI

ATA Invertible

x* única solución por aproximación

1

1

1

1

4

3

2

1

16

9

4

1

c

b

a

1

1

5

4

=

Page 46: MÍNIMOS CUADRADOS. A mxn A x = b Sistema Inconsistente.

x* = ( AT A )-1ATy

x* =

y = 3,75 – 0,81 x – 0,04 x2

04.0

81,0

75,3

Page 47: MÍNIMOS CUADRADOS. A mxn A x = b Sistema Inconsistente.

vector de error de mínimos cuadrados

1

1

5

4

16

9

4

1

4

3

2

1

04,0

81,0

75,3

=

y _ A x* =

_

13,1

96,1

21,0

1,1

Page 48: MÍNIMOS CUADRADOS. A mxn A x = b Sistema Inconsistente.

error de mínimos cuadrados

=b – A x* 2,5244009

Page 49: MÍNIMOS CUADRADOS. A mxn A x = b Sistema Inconsistente.

Observar la primera ecuacióndel sistema

4 = a + b + c4 = 3,75 +(- 0,81)+(- 0,04)

4 – 2,9 = 1,1= 1

(primer componente del

vector )

Page 50: MÍNIMOS CUADRADOS. A mxn A x = b Sistema Inconsistente.
Page 51: MÍNIMOS CUADRADOS. A mxn A x = b Sistema Inconsistente.
Page 53: MÍNIMOS CUADRADOS. A mxn A x = b Sistema Inconsistente.

El estudio de las curvas de luz visuales de los cometas nos

pueden dar información sobre el tamaño aproximado que tiene el núcleo, la composición química

del cometa, la razón gas-polvo, si el agua domina o no la actividad

gaseosa del núcleo y otros parámetros físico-químicos más

complejos del cometa

Page 54: MÍNIMOS CUADRADOS. A mxn A x = b Sistema Inconsistente.

Los astrónomos profesionales diferencian entre dos tipos de curvas

de luz :- Visuales, proporcionan información

sobre el agua y la actividad molecular.

- CCD, proporcionan información acerca de la actividad del polvo en el cometa. Debido a las cámaras CCD actuales, se puede conocer la tasa de producción de polvo del cometa.

Page 55: MÍNIMOS CUADRADOS. A mxn A x = b Sistema Inconsistente.

Las curvas de luz de los cometas suelen representarse

gráficamente a lo largo de 2 ejes:

eje x Tiempo

eje y Magnitud visual o CCD

Cada punto representa una unidad

Visual.

Page 56: MÍNIMOS CUADRADOS. A mxn A x = b Sistema Inconsistente.
Page 57: MÍNIMOS CUADRADOS. A mxn A x = b Sistema Inconsistente.
Page 59: MÍNIMOS CUADRADOS. A mxn A x = b Sistema Inconsistente.
Page 60: MÍNIMOS CUADRADOS. A mxn A x = b Sistema Inconsistente.
Page 61: MÍNIMOS CUADRADOS. A mxn A x = b Sistema Inconsistente.
Page 62: MÍNIMOS CUADRADOS. A mxn A x = b Sistema Inconsistente.
Page 63: MÍNIMOS CUADRADOS. A mxn A x = b Sistema Inconsistente.
Page 64: MÍNIMOS CUADRADOS. A mxn A x = b Sistema Inconsistente.
Page 65: MÍNIMOS CUADRADOS. A mxn A x = b Sistema Inconsistente.
Page 66: MÍNIMOS CUADRADOS. A mxn A x = b Sistema Inconsistente.

Según la primera ley de Kepler, un cometa debe tener una órbita elíptica, parabólica o hiperbólica

( ignorando la atracción gravitacional de los

planetas ).

Page 67: MÍNIMOS CUADRADOS. A mxn A x = b Sistema Inconsistente.

En coordenadas polares adecuadas, la posición

( r, θ ) de un cometa satisface una ecuación de

la forma:

r = β - e ( r cos θ )

Page 68: MÍNIMOS CUADRADOS. A mxn A x = b Sistema Inconsistente.

r = β - e ( r cos θ )

donde :

β es una constante

e es la excentricidad de la órbita :

0 e < 1 para una elipse

e = 1 para una parábola

e > 1 para una hipérbola.

Page 69: MÍNIMOS CUADRADOS. A mxn A x = b Sistema Inconsistente.

Suponga que las observaciones de un cometa recientemente descubierto proporcionan los

datos siguientes:

θ 0,88 1,10 1,42 1,77 2,14

r 3,00 2,30 1,65 1,25 1,01

Page 70: MÍNIMOS CUADRADOS. A mxn A x = b Sistema Inconsistente.

Determine el tipo de órbita y pronostique

dónde estará el cometa cuando

θ = 4,6 (radianes).

Page 71: MÍNIMOS CUADRADOS. A mxn A x = b Sistema Inconsistente.

r = β - e ( r cos θ )

Posiciones del cometa ( r , θ )

( 3,00 , 0,88 ) ( 2.30 , 1,10) ( 1,65 , 1,42 ) ( 1,25 , 1,77 ) ( 1,01 , 2,14 )

Page 72: MÍNIMOS CUADRADOS. A mxn A x = b Sistema Inconsistente.

3 = β - 1,911453 e2,30 = β - 1,043273 e1,65 = β - 0,247872 e1,25 = β + 0,247360 e1,01 = β + 0,544350 e

Page 73: MÍNIMOS CUADRADOS. A mxn A x = b Sistema Inconsistente.

e

1

1

1

1

1

544350,0

247360,0

247872,0

043273,1

911453,1

=

01,1

25,1

65,1

30,2

3

A x b

Page 74: MÍNIMOS CUADRADOS. A mxn A x = b Sistema Inconsistente.

x* = ( AT A )-1ATy

x* =

0 e < 1

La órbita es una elipse

811,0

45,1 βe

Page 75: MÍNIMOS CUADRADOS. A mxn A x = b Sistema Inconsistente.

1,45 0,81 r = β - e ( r cos θ )

r = 1,45 / 1 + 0,81 cos θ

Produce r = 1,33

cuando θ = 4,6 radianes

Page 76: MÍNIMOS CUADRADOS. A mxn A x = b Sistema Inconsistente.
Page 77: MÍNIMOS CUADRADOS. A mxn A x = b Sistema Inconsistente.

FIN

Page 78: MÍNIMOS CUADRADOS. A mxn A x = b Sistema Inconsistente.

APLICACIONES

Ajuste de Curvas Por Mínimos Cuadrados