7/25/2019 mlm_rm_1

1/11

mlm_rm_1.doc vgg

Regresin Multivariante

1

Regresin simple s=1 p=1

1.1El modelo:n observaciones yi = 0 +1xi1 + ui , i= 1 n

con las ui~ N1(0,2 ) independienes

(n, 1) (n, !) (!, 1) (n, 1)

maricialmene"

y vecor de observaciones conocidoX mari# de dise$o conocida vecor de par%meros desconocido

0 e&eco de media general 1 e&eco de '1, coe&iciene de '1

X vecor de medias (de y bao di&. valores x) desconocidou n perurbaciones N1(0,!) incorreladas !desconocido

visi*n geomrica en n"

1

Las v.a. Y1, Y2, ... Ys dependen linealmentede X1, X2, ... Xp ?s + p variales !uantitativas" n #serva!i#nes

y = X + u con u$Nn (0, 2-)

{ { 1explica,

in&luye en

1 respuesa 1 explicaivacuaniaiva cuaniaivaa explicar

'

7/25/2019 mlm_rm_1

2/11

/0

mlm_rm_1.doc vgg

1.2 Estimacin y contrastes. Tablas Anova.

1.!.1Estimacin"$

= %XtX&'1Xty esima (crierio 2, b.l.u.e., 234)$y = $( =X

$= )X y vecor de medias esimadas y observaciones predic5as.

e= y' $y =%*' )X&y=)Xy vecor de errores o residuos, esima u ! = ee6n esima !, varian#a de la perurbaci*n.

1.!.! Visin geomtrica:

1.!.7 Tablas Anova, descomposicin de la variabilidad en sumas de cuadrados:

8uene4ariaci*n g. de l. 9:;y9! 32 8egresi*n ! (p+1) = >y? y :' 3 8()= 3632 3edia general 1 3= n !y :1 33 8(3)= 33632

4ariable6s 1(p) m= m= = ( >y y )@( >y y )= > >y? y y ! :1A' 3m 8(m)=3m 632

2rror residual n!

(np1)

2= y

)@(y >y

)= y@y>y

@>y :'B 32

7/25/2019 mlm_rm_1

3/11

/0

mlm_rm_1.doc vgg

2 enerali/a!in 1- Regresin m0ltiple s=1 p1

2.1El modelo:n observaciones yi = 0 +1xi1+... +pxi p + ui , i= 1 n

con los ui~ N1(0,2) independienes

(n, 1) (n, p+1) (p+1, 1) (n, 1)

maricialmene"

2.1 Diferenciascon el modelo de regresi*n simple"

a)Xiene a5ora p+1columnas (media general y p vables explicaivas).

b)Fonrase b%sico de Dno efectode odas las 'iconunameneE"H0" 1== p= 0 ( H0" G=0 con G=H 0 A -p I )

8(m) = m332

=$ $

$ $

(y= 1y) (y= 1y)6p

(y= y) (y= y)6(n=p=1) p,n=p=18:

c):ermie adem%sotros contrastesbao la &orma general H0" =3

2emplo 1" /ip*esis de no efectode las primeras r variables explicaivas(las r primeras variables son super&luas y pueden suprimirse del modelo)

H0" 1==r = 0se escribe H0" =4 omando=5 4 6 *r 6 7 8

7

{ 1 ! p1 explica ,in&luye en1 respuesa explicaivas

cuaniaiva cuaniaivasa explicar

nn p

, ,...' ' '1 44 2 4 43

y = X + u con u$Nn (0, 2-)

7/25/2019 mlm_rm_1

4/11

mlm_rm_1.doc vgg

a esimaci*n del vecor de medias bao H0ya no es la proyecci*n sobre H'I sino sobre H'I/o,Jue es un subespacio denro de H'I. a esimaci*n de se 5a movido 5o. os residuos, eo, ser%n

a5ora mayores Jue en el modelo sin resringir e o= e+5o. / evalKa la magniud de esadi&erencia 5o=eoe. Lespus, el es 8 decide si esa di&erencia es signi&icaiva, es decir si esdi&Mcil de obener baoH0por simples variaciones en el muesreo. :ara ello compara el cambioJue produce la resricci*nH0(/) con la variabilidad en las perurbaciones esimadas (2).ili#a el cociene 3/632, Jue sigue una disribuci*n 8.

2emplo !" '1y '! producen en la respuesa e&ecos similares.los coe&icienes de '1y '!son iguales" H0"1=!

H0"=4 con = (0 1 1 0 0 0)

2emplo 7" '1,'! y '7producen el mismo e&eco en .los coe&icienes de '1,'! y '7son iguales" H0"1=!=7

H0"=4 con0 1 1 0 0 ... 0

G=0 0 1 1 0 ... 0

________________________________________

9 enerali/a!in 2- Regresin Multivariante s1 p1

4isi*n geomrica del 3odelo de egresi*n ineal con respuesa 3ulivariane

C

7/25/2019 mlm_rm_1

5/11

mlm_rm_1.doc vgg

9 enerali/a!in 2- Regresin Multivariante s1 p1

9.1El Modelo:n individuos observados (1i n) en s variables respuesa = 1 s

y en p variables explicaivas ' = 1 ps respuesas del individuo i"

yi = 0 +1xi1 +... +pxip + ui =1s siendo las perurbaciones para el individuo i"ui=(ui1,, uis) ~ Ns(0,) independienes

(n, s) (n, p+1) (p+1, s) (n, s)

maricialmene"

9.2 Diferenciascon el modelo de regresi*n mKliple" Y,, : a5ora son marices.

a) Y mari#de observaciones conocida s columnas y;X mari# de dise$o conocida no cambia

b) mari#de par%meros desconocida s

columnas;

c) : mari#de perurbaciones desconocida n &ilas uiindeps.n &ilas Ns (0, ) independienes, perurbaciones sdim. de los n individuos

s!s desconocida s columnas u;

s columnas u; ~ Nn(0,) cov. de u;con u3 O - (las de cada individuo)

P

1 ! ps1 ! explican,in&luyen enrespuesas p explicaivas

cuaniaivas cuaniaivas

a explicar

s

, ,...' ' , , ' ... 1 4 2 4 3 1 4 2 4 3

Y = X

7/25/2019 mlm_rm_1

6/11

mlm_rm_1.doc vgg

d) X< mari#de medias desconocida scolumnas;

Q

7/25/2019 mlm_rm_1

7/11

mlm_rm_1.doc vgg

9.9 s modelos univariantesde regresin m"ltiple:2l modelo mulivariane yuxapone s modelos de regresi*n mKliple, uno por cadavariable . 2l submodelo se &orma con las columnas de Y,

7/25/2019 mlm_rm_1

8/11

mlm_rm_1.doc vgg

2n cada submodelo los residuos 5an aumenado" e#;=e; + C#;"e# =e+ C#

Fada e;es orogonal a H'I, y por ano a odos los C#; (pues odos es%n en H'I),por lo cual, resula

@4= %Y ' Y &t% Y ' Y &= e#te#=%e+ C#&t%e+ C#& = ete+ C#tC#= @+B

Test 1:2sadMsico

de Dil3s(

7/25/2019 mlm_rm_1

9/11

mlm_rm_1.doc vgg

Test 1:2sadMsico de Dil3s(

7/25/2019 mlm_rm_1

10/11

mlm_rm_1.doc vgg

9.K @;empl#- alari#s de 144 emplead#s de an!a.4ariables a explicar ()" 4ariables explicaivas (')" F log(salario acual) 2LF nivel de &ormaci*n

H0*"

modelos de regresi*n mKliple para cada . Gdem%s, los procedimienosconocidos para el esudio de residuos, rans&ormaciones, deecci*n de ouliers,medidas de in&luencia en regresi*n mKliple, puede emplearse para cada enregresi*n mulivariane. imilarmene, las cnicas de crossvalidaci*n enregresi*n mKliple pueden exenderse a regresi*n mulivariane.

10

7/25/2019 mlm_rm_1

11/11

mlm_rm_1.doc vgg

LIBNAMEXX 'D:\np\rlm';dataxx.bank;inputLCURRENT LTART EX !"BCAT RACE EDUC ENI"R A#E EX$ERIENCE;%ar&; (.)*+, (.-,+( - - /) */ 0*.+- -.0+/-.0+0 (.1)0 - + - /( *, /.(0 /,.--/-.-,+ (.0*1, - + - /+ (* /./1 /0.-- (./1 *.),1) - , - /0 ( ).0+ 0-.-- (.(0*0 (.,-( - + - /) *, ,+./1 +.1+/-.0/0* (.+1+ - - /( 1* ,-.-* 0.(0 (./-+- *.1(* - 0 - /0 1- .+- /*.-- (.,-,* *.)1(, - 0 - /0 1- 01.*, ,.0 (.)*/) (.0,-/ - + - /+ 1* ,+.0 //.-* (.(()+ (.,-( - - /) (- ,.,, +.)1/-.-*+* (./+*0 - - /) ( ,.-- .(0 (.)1, (./+*0 - + - /+ 1* ,*.(0 /.)1 (.+,+( (.,/1 - / - /) *0 .0 /0.0/-.,1,+ *.1*, - 0 - /+ *0 0(.+- 0.*, (.,(01 *.1*, - , - /0 )( ),.+* 0(.-- (.+-0 *.1*, - 0 - /0 )) 01.0 ,.(0 (.++) *.)((+ - , - * *+ +*.-* ,).+-/-.-()0 (./-( - - /) (/ ,,.1+ ,.)1 (./,1* *.)*0 - 0 - /0 (+ 0(.,, ,.*,/-.0(0/ (.0+(/ - - /* ( ,(.)1 .)1/-./)+( (.)/+* - + - 0/ ** +).)1 00.-- (.,/ *.1*, - , - * )( +(.0 /.+- (.(-,+ (.10 - + - /) 11 *.,, 00.-- (.++) *.1*, - , - * 1 ),.+- ,.-- (.,(01 *.1*, - , - /0 1( +./1 0+.)1 (.++,( *.1*, - , - /0 1* +(.*, ,0.0+ (.*//( (./,11 - - /) *) ,0.0+ +.--/-.//)) (.+(+) - + - /( *- 0.+* /).+*/-./0)) (.+)0 - + - /* 1+ ,+.0 )./1/-.+/,, (.)*-- - + - /( () .(0 /.+* (./1 *.+(/ - , - /0 (+ +).-- 0+.+*/-.),, (.,-)- - + - /) (1 ,1.-* +.*, (./1 *.)((+ - , - * *1 ).0+ ,1.+*/-.0-- (.+1( - + - /( )1 ,).(0 ).0+/-.-0)) (.0/-, - + - /) (, ,,.0 0.*, (.+1+- *.(00) - / - /+ (* ,1./1 (.+-/-.//)) (.,(1 - + - /( )+ 0*.0 0./1 (.-+10 *.1), / / - /0 (* ).+- ,/.1+ (.-1// *.//* / 0 - /0 )+ 0,.-- -.-- (.-** *.1), / / - /0 1) -./1 -.+- (.,(01 *.1(* / / - /0 (+ ++.0+ /(.-- (./0 *.+(/ / 0 - /0 ) +.+- /).+- (./+ *.(00) / 0 - /0 (- )/.)1 /1.-* (.,)1, *.,*/ / 0 - /+ (, 0).*, -.(0 (./1+1 *.+,1- / / - * )) )./1 *.-- (.,/1 *.()/* / 0 - /+ *0 +*.1+ 00.-* *.1+1* *.,/,* / / - * 1 ++.0+ ,.+* (.0/*, *.)+*) / / - /0 (/ ,,.+- ).(0 (.-)0 *.+(/ / / - * )) ).0+ /(.--/-.-,-/ (.,(0) / + - /) 1, ,/.(0 /.0+

(./-+- *.,** / 0 - * */ 0.,, -.0 (.--1- *.//* / 0 - /0 )( 0,.0 -.-- (.0+(/ *.,*/ / / - /0 (1 +,.(0 .-- (.,)00 *.+,1- / 0 - /1 1, ++.+* ,/.0+ (.1+01 *.*+,- / - /) 1( 0*.0 /.)1 (.)0,* *.1*, / - /) (- 0(.(0 -.+* (.-1*- *.0)*1 / / - /0 *) +0.-- /,.-- *.(*1 *.,/,* / / - /0 10 +0./1 .)1 *.*(-/ *.0)*1 / / - /0 *) )0.-- ).-- (.+0(* *.()/* / - /) )+ ,-.1+ ).+* (.*,*( *.*,(0 / - /) *) ,0.-- /.+* (.-0/) *.)*0 / / - /+ )+ +(.+- 0-.-*/-.-/0, *.(*)0 / - /) ) 0(.-- ,.-- (.(1- *.)((+ / 0 - /0 (- .+- -.0+ *.(11/ *.,/,* / / - * *, +(.-* ).0+ (.-0** *.+(/ / 0 - /0 )1 +/.+- /+.-* (.1)0 *.()/* / - /) )* 01.+* -.(0 *.*0/1 *.,/,* / / - * 10 +).(0 0).+* (.,,)/ *.1), - 0 / * (* 01.*, 0./1 (.0,-/ *.)+*) - 0 / /0 *) 0*.)1 ,.-* (.+,0 *.1*, - , / * 1( *.+- 0-.+- (./1 *.)((+ - , / * (0 )-.)1 ,).-- (.-0) *.1*, - , / * )* ,0.(0 /0.(0 (.,11+ *.1*, - , / * 1) ,+.0+ /0.-- (.-1) *.)((+ - / / /0 (/ ,-.,, .-*/-.-1+* (.+/- - + / /0 1 *.0+ 00.)1 (.,/( *.1*, - , / /0 1, ,*.)1 /0.(0 (.0,-/ *.0+- - 0 / /0 */ 0.1+ -.1+/-.,+) (.,(1 - / /1 1- ,0.-* +.+* (.000 *.)((+ - 0 / /0 ( ,.+* *.+- (./1 *./**) - , / /0 (/ +,.+- 0)./1/-.+()) (.111( - + / /) )) ,+.,, /-.)1 (.,(01 *.1*, - , / * )1 1.0+ 0+.0 (./+)( *.+(/ - / / /+ ** +1.+- 0(.(0 (.,0-/ *.)((+ - 0 / / 1( ,-.,, ,.(0 (./*/( *.)((+ - , / /+ (- 0./1 /+.(0 (.,(01 *.)((+ - , / * (0 ,1.*, /0.-- (./1 *.)((+ - , / * *, *.*, 0+./1 (./-+- *.0)*1 - 0 / * ( 0(./1 ,.-- (.0/* *.+(/ / / / /+ 1* *.)1 .0+ (./**/ *.)*0 / / / /0 1 +./1 (.1+ *.*0/1 *./**) / / / /0 (1 )-.)1 /-.,, *.*,-+ *.,/,* / / / * */ +/.+- -.-- (./,/, *.1), / / / /) * 1.+* /1.*,

(.,*1) *.)((+ / / / /+ *) -.+- ).+* (.-** *.,** / 0 / /0 (0 0+.+- -.0 (.-/, *.//* / 0 / /0 1, 1.(0 /0.*, *.() *./**) / / / /+ () )-.+- /.(0 (.,-,* *.,/,* / / / /0 *+ +./1 *.0 (./**/ *.,** / 0 / /0 1+ 01.+* 0.)1

; proccontents; procmeans; run; procgplot;

pl2t3LCURRENT LTART453LTART EX !"BCAT RACE EDUC ENI"R A#E EX$ERIENCE4;run;

procreg; m2&6l27C"M$LET": m2&6lLCURRENT LTART8EDUC ENI"R A#E EX$ERIENCE; 927bai%a7n2766%t27r6r62r6: mt6t< print ?print? imprim6 E @ 9 5 < == matri M ==> ; 927pru6ba76xpr6i2n: mt6t25ENI"R8EDUCFEX$ERIENCE LTART8LCURRENT; m2&6l27in76ni2r: m2&6lLCURRENT LTART8EDUC A#E EX$ERIENCE;

927bai%a: mt6t< print; Ltart77L%urr6nt: mt6tLTART8LCURRENT;run;

procglm;m2&6lLCURRENT LTART8EDUC ENI"R A#E EX$ERIENCE;%2ntrat'EDUC8ENI"R'6&u% 16ni2r =1; 5 ==> matri A ;

man2am8l%urr6nt=ltart pr6ix8&i; 5 ==> matri M ; run;

m2&6l @/ @0 @,8x/ x0 x,; mt6tx/x0; mt6t@/=@0 @0 =@, x/; mt6t@/=@0;TG6 irt MTETtat6m6nt t6t tG6 G@p2tG6i tGat tG6 x/an& x0 param6t6r ar6 6r2 2r @/ @0 an&@,. TG6 6%2n& MTETtat6m6nt t6t tG6 G@p2tG6i tGat tG6 x/ param6t6r i tG6 am6 2r all tGr66&6p6n&6nt ariabl6. H2r tG6 am6 m2&6l tG6 tGir& MTET tat6m6nt t6t tG6 G@p2tG6i tGat allparam6t6r 6x%6pt tG6 int6r%6pt ar6 tG6 am6 2r &6p6n&6nt ariabl6 @/ an& @0.

11