Lli˘cons 16 - UPF84.89.132.1/~satorra/P/P2011L10.pdf · Lli˘cons 16: Albert Satorra Probabilitat,...

22
Lli¸ cons 16: Albert Satorra Probabilitat, UPF Albert Satorra ( Probabilitat, UPF ) AD/E-GRAU Tardor 2011 1 / 22

Transcript of Lli˘cons 16 - UPF84.89.132.1/~satorra/P/P2011L10.pdf · Lli˘cons 16: Albert Satorra Probabilitat,...

Page 1: Lli˘cons 16 - UPF84.89.132.1/~satorra/P/P2011L10.pdf · Lli˘cons 16: Albert Satorra Probabilitat, UPF Albert Satorra ( Probabilitat, UPF ) AD/E-GRAU Tardor 2011 1 / 22

Llicons 16:

Albert Satorra

Probabilitat, UPF

Albert Satorra ( Probabilitat, UPF ) AD/E-GRAU Tardor 2011 1 / 22

Page 2: Lli˘cons 16 - UPF84.89.132.1/~satorra/P/P2011L10.pdf · Lli˘cons 16: Albert Satorra Probabilitat, UPF Albert Satorra ( Probabilitat, UPF ) AD/E-GRAU Tardor 2011 1 / 22

Continguts

1 Temes addicionals/pendents/complementarisTransformacio de variablesMetode de Monte CarloDesigualtats

2 Altres distribucions contınues notables

3 Preparem l’examen final

Albert Satorra ( Probabilitat, UPF ) AD/E-GRAU Tardor 2011 2 / 22

Page 3: Lli˘cons 16 - UPF84.89.132.1/~satorra/P/P2011L10.pdf · Lli˘cons 16: Albert Satorra Probabilitat, UPF Albert Satorra ( Probabilitat, UPF ) AD/E-GRAU Tardor 2011 1 / 22

Temes addicionals/pendents/complementaris

Transformacio de variables

Funcio de densitat de probabilitat d’una variabletransformadaExemple 1: Si X v.a. amb funcio de densitat uniforme a [0, 10], quina esla f.d.p. de Y = X 2? Sabem quefX (x) = 1/10, x ∈ [0, 1], fX (x) = 0, x /∈ [0, 1]. Considereu la“igualtat” (de masses de probabilitat)

fX (x)dx = fY (y)dy

que implica

fY (y)dy = fX (x)dx

dy= fX (x)

1

y ′= fX (x) | 1

y ′|

En l’exemple

fY (y) =1

10× 1

2x=

1

10× 2×√y=

1

20√y, y ∈ [0, 100]

fY (y) = 0, y /∈ [0, 100]Albert Satorra ( Probabilitat, UPF ) AD/E-GRAU Tardor 2011 3 / 22

Page 4: Lli˘cons 16 - UPF84.89.132.1/~satorra/P/P2011L10.pdf · Lli˘cons 16: Albert Satorra Probabilitat, UPF Albert Satorra ( Probabilitat, UPF ) AD/E-GRAU Tardor 2011 1 / 22

Temes addicionals/pendents/complementaris

Transformacio de variables

Exemple 2: X ∼ fX (x) = 3x2, x ∈ [0, 1]. Determineu la f.d.p. deY = X 2. Com que tenim una transformacio g(x) = x2 monotona(bijectiva) g : [0, 1]→ [0, 1]:

fY (y)dy = fX (x)dx ⇒ fY (y) = fX (x) | 1

y ′|

⇒ fY (y) = 3x2 1

2x=

3

2x =

3

2

√y

En general, si Y = g(X ), X = g−1(Y ), amb g(.) bijectiva i continuamentdiferentiable1,

fY (y) = fX (x)× 1

|g ′(x)|= fX (g−1(y))

1

|g ′(g−1(y))|, y ∈ B

D’aquı s’en despren el metode de Monte Carlo per generar observacionsd’una distribucio qualsevol.

1C1 a un interval obert A en un altre interval obert BAlbert Satorra ( Probabilitat, UPF ) AD/E-GRAU Tardor 2011 4 / 22

Page 5: Lli˘cons 16 - UPF84.89.132.1/~satorra/P/P2011L10.pdf · Lli˘cons 16: Albert Satorra Probabilitat, UPF Albert Satorra ( Probabilitat, UPF ) AD/E-GRAU Tardor 2011 1 / 22

Temes addicionals/pendents/complementaris

Metode de Monte Carlo

Metode de Monte Carlo

Si X es v.a. continua amb funcio de distribucio F (x), aleshores

U = F (X ) ∼ U[0, 1]

uniforme a [0, 1]. De manera que F−1(U) ∼ fX . 2

Si volem simular observacions de X , cal nomes simular X = F−1(U), on Ute distribucio uniforme a [0, 1].

2F (.) es diferentiable amb derivada f (.), de manera que

fU(u) = fX (x)1

|F ′(x)| = fX (x)1

|fX (x)| = 1, u ∈ [0, 1]

Albert Satorra ( Probabilitat, UPF ) AD/E-GRAU Tardor 2011 5 / 22

Page 6: Lli˘cons 16 - UPF84.89.132.1/~satorra/P/P2011L10.pdf · Lli˘cons 16: Albert Satorra Probabilitat, UPF Albert Satorra ( Probabilitat, UPF ) AD/E-GRAU Tardor 2011 1 / 22

Temes addicionals/pendents/complementaris

Metode de Monte Carlo

Metode de Monte Carlo: exempleObtenir 1000 observacions aleatories de X ∼ f (x) = 2x , x ∈ [0, 1]. Comque F (x) = x2, F−1(u) =

√x , de manera que X ∼

√U on U ∼ U(0, 1).

En R:

> U= runif(10)

> U

[1] 0.53739263 0.68816987 0.88647438 0.53192244 0.71055824 0.05436115 0.90868059 0.14912553

[9] 0.64718433 0.75310826

> X = sqrt(U)

> X

[1] 0.7330707 0.8295600 0.9415277 0.7293301 0.8429462 0.2331548 0.9532474 0.3861677 0.8044777

[10] 0.8678181

son 10 observacions aleatories de X. Si simulem mes observacions, podemfer un histogramaAlbert Satorra ( Probabilitat, UPF ) AD/E-GRAU Tardor 2011 6 / 22

Page 7: Lli˘cons 16 - UPF84.89.132.1/~satorra/P/P2011L10.pdf · Lli˘cons 16: Albert Satorra Probabilitat, UPF Albert Satorra ( Probabilitat, UPF ) AD/E-GRAU Tardor 2011 1 / 22

Temes addicionals/pendents/complementaris

Metode de Monte Carlo

Histograme de les dades simulades

histogram of n=100000 replications of X: sqrt(runif(n))

X

Density

0.0 0.2 0.4 0.6 0.8 1.0

0.0

0.5

1.0

1.5

2.0

Figure: simulacio n = 10000 ) observacions de X ∼ f (x) = 2x , x ∈ [0, 1]

Albert Satorra ( Probabilitat, UPF ) AD/E-GRAU Tardor 2011 7 / 22

Page 8: Lli˘cons 16 - UPF84.89.132.1/~satorra/P/P2011L10.pdf · Lli˘cons 16: Albert Satorra Probabilitat, UPF Albert Satorra ( Probabilitat, UPF ) AD/E-GRAU Tardor 2011 1 / 22

Temes addicionals/pendents/complementaris

Metode de Monte Carlo

Exemple de Metode de Monte Carlo.Exemple 2: Volem bservacions aleatories de la variable X ∼ f (x) = 3x2.Tenim que U = F (x) = x3, per tant cal simplement transformar X = U1/3

les observacions U d’una distribucio uniforme. La simulacio de 10observacions de X es:

> u=runif(10)

> x=u^(1/3)

> x

[1] 0.2058851 0.7937641 0.9666047 0.7647873 0.7218360 0.5965476 0.9699959

0.4529079 0.6111965

[10] 0.9792118

>

El histograme de la simulacio de n = 10000 observacions de X es el de lafigura seguent

Albert Satorra ( Probabilitat, UPF ) AD/E-GRAU Tardor 2011 8 / 22

Page 9: Lli˘cons 16 - UPF84.89.132.1/~satorra/P/P2011L10.pdf · Lli˘cons 16: Albert Satorra Probabilitat, UPF Albert Satorra ( Probabilitat, UPF ) AD/E-GRAU Tardor 2011 1 / 22

Temes addicionals/pendents/complementaris

Metode de Monte Carlo

Histograme de les dades simulades

Histogram of y

y

Density

0.0 0.2 0.4 0.6 0.8 1.0

0.0

0.5

1.0

1.5

Figure: Histograma (simulacio n = 10000 ) i funcio de densitat deX ∼ f (x) = 3x2

Albert Satorra ( Probabilitat, UPF ) AD/E-GRAU Tardor 2011 9 / 22

Page 10: Lli˘cons 16 - UPF84.89.132.1/~satorra/P/P2011L10.pdf · Lli˘cons 16: Albert Satorra Probabilitat, UPF Albert Satorra ( Probabilitat, UPF ) AD/E-GRAU Tardor 2011 1 / 22

Temes addicionals/pendents/complementaris

Metode de Monte Carlo

Metode de Monte Carlo: exempleImagineu que els guanys Y son Y = 3X 2 + 2X + 2ln(X ), on X es la v.a.del exemple anterior. Ens preguntem pell valor esperat, variancia, Mediana,Primer Quartil, etc. de la variable guany, Y . Ho podem determinar ambun metode simple, emprant el metode de Monte Carlo ( simulacio):En R:

U= runif(100000)

X = sqrt(U)

Y = 3*X^2 + 2*X + 2*log(X)

mean(Y); var(Y)

> mean(Y)

[1] 1.823310

> var(Y)

[1] 5.179783

Albert Satorra ( Probabilitat, UPF ) AD/E-GRAU Tardor 2011 10 / 22

Page 11: Lli˘cons 16 - UPF84.89.132.1/~satorra/P/P2011L10.pdf · Lli˘cons 16: Albert Satorra Probabilitat, UPF Albert Satorra ( Probabilitat, UPF ) AD/E-GRAU Tardor 2011 1 / 22

Temes addicionals/pendents/complementaris

Metode de Monte Carlo

Metode de Monte Carlo: exemple (cont.)

> U= runif(100000)

> X = sqrt(U)

> Y = 3*X^2 + 2*X + 2*log(X)

> U= runif(100000)

> mean(Y)

[1] 1.842715

> var(Y)

[1] 5.119805

....

> summary(Y)

Min. 1st Qu. Median Mean 3rd Qu. Max.

-11.8900 0.3674 2.2230 1.8380 3.7080 5.0000

Metode mes rapid que calcular la f.d.p. de la variable transformada,despres fer la integral . . .Albert Satorra ( Probabilitat, UPF ) AD/E-GRAU Tardor 2011 11 / 22

Page 12: Lli˘cons 16 - UPF84.89.132.1/~satorra/P/P2011L10.pdf · Lli˘cons 16: Albert Satorra Probabilitat, UPF Albert Satorra ( Probabilitat, UPF ) AD/E-GRAU Tardor 2011 1 / 22

Temes addicionals/pendents/complementaris

Metode de Monte Carlo

Metode de Monte Carlo: exemple (cont.)

Figure: Histograma de la distribucio de Y = 3 ∗ X 2 + 2 ∗ X + 2 ∗ log(X )

Histogram of Y

Y

Fre

quen

cy

−10 −5 0 5

050

0010

000

1500

020

000

Albert Satorra ( Probabilitat, UPF ) AD/E-GRAU Tardor 2011 12 / 22

Page 13: Lli˘cons 16 - UPF84.89.132.1/~satorra/P/P2011L10.pdf · Lli˘cons 16: Albert Satorra Probabilitat, UPF Albert Satorra ( Probabilitat, UPF ) AD/E-GRAU Tardor 2011 1 / 22

Temes addicionals/pendents/complementaris

Desigualtats

Desigualtat de TchebychevSigui X una v.a. amb esperanca µX i desviacio σX finites.Aleshores, la desigualtat de Tchebychev afirma que ∀k ≥ 1,

P(|X − µX | ≥ k · σX ) ≤ 1

k2

Prova:

σ2 =

∑|x−µ|<kσ

P(x)(x − µ)2 +∑

|x−µ|≥kσ

P(x)(x − µ)2

≥∑

|x−µ|≥kσ

P(x)(x − µ)2 ≥∑

|x−µ|≥kσ

P(x)k2 · σ2 = P(|X − µ| ≥ k · σ)k2 · σ2

La desigualtat de de Tchebychev ajuda en la interpretacio de µX i de σXcom a parametres de centralitat i dispersio respectivament,

1 k = 2, P(|X − µx | < 2 · σX ) ≥ 1− 122 = 0, 75

2 k = 3, P(|X − µx | < 3 · σX ) ≥ 1− 132 = 0, 8889

3 .../...

Albert Satorra ( Probabilitat, UPF ) AD/E-GRAU Tardor 2011 13 / 22

Page 14: Lli˘cons 16 - UPF84.89.132.1/~satorra/P/P2011L10.pdf · Lli˘cons 16: Albert Satorra Probabilitat, UPF Albert Satorra ( Probabilitat, UPF ) AD/E-GRAU Tardor 2011 1 / 22

Temes addicionals/pendents/complementaris

Desigualtats

Desigualtat de Cauchy-Schwarz i acotacio de ρXYSi X i Y son dues variables aleatories lligades al mateix Ω i am valoresperat finit, aleshores:

(EXY )2 ≤ EX 2EY 2

Demostracio: Si Z = kX + Y , aleshores Z2 = k2X 2 + Y 2 + 2kXY . Tenim que 0 ≤ E(Z2) = k2EX 2 + 2kEXY + EY 2, d’on

obtenim ... (recordeu ax2 + bx + c = 0, el discriminant de l’equacio ∆ = b2 − 4ac ≤ 0 . . . Si ∆ = 0 aleshores hi ha un k amb

Z = kX + Y = 0, es a dir, Y = kX ).

Apliqueu la desigualtat anterior a les variables centrades X − µX iY − µY , i obteniu

(Cov(X ,Y ))2 ≤ (V (X ))2(V (Y ))2

De manera que

(Cov(X ,Y ))2

(V (X ))2(V (Y ))2=

[Cov(X ,Y )

V (X )V (Y )

]2

= ρ2XY ≤ 1

Albert Satorra ( Probabilitat, UPF ) AD/E-GRAU Tardor 2011 14 / 22

Page 15: Lli˘cons 16 - UPF84.89.132.1/~satorra/P/P2011L10.pdf · Lli˘cons 16: Albert Satorra Probabilitat, UPF Albert Satorra ( Probabilitat, UPF ) AD/E-GRAU Tardor 2011 1 / 22

Altres distribucions contınues notables

Distribucio t-Student

“The derivation of the t-distribution was first published in 1908 by WilliamSealy Gosset, while he worked at a Guinness Brewery in Dublin. Due toproprietary issues, the paper was written under the pseudonym Student.The t-test and the associated theory became well-known through the workof R.A. Fisher, who called the distribution ”Student’s distribution”.”WikipediaSorgeix en l’estimacio de la mitjana poblacional quan desconeixem lavariancia. La t de Student de r graus de llibertat es:

tr =Z√χ2r /r

on Z ∼ N(0, 1).

Albert Satorra ( Probabilitat, UPF ) AD/E-GRAU Tardor 2011 15 / 22

Page 16: Lli˘cons 16 - UPF84.89.132.1/~satorra/P/P2011L10.pdf · Lli˘cons 16: Albert Satorra Probabilitat, UPF Albert Satorra ( Probabilitat, UPF ) AD/E-GRAU Tardor 2011 1 / 22

Altres distribucions contınues notables

Distribucio t-Student comparada amb la Normal

Figure: Distribucio t - Student

−4 −2 0 2 4

0.0

0.1

0.2

0.3

0.4

X

pdf

t1t5t100Norm

Albert Satorra ( Probabilitat, UPF ) AD/E-GRAU Tardor 2011 16 / 22

Page 17: Lli˘cons 16 - UPF84.89.132.1/~satorra/P/P2011L10.pdf · Lli˘cons 16: Albert Satorra Probabilitat, UPF Albert Satorra ( Probabilitat, UPF ) AD/E-GRAU Tardor 2011 1 / 22

Altres distribucions contınues notables

Distribucio t-Student

> rt(10,4)

[1] 1.3499174 -0.7918188 1.7990769 1.0624056 0.2052549 1.3976543 -0.1952794 -1.1263405

[9] 2.0617611 0.6975450

Valor esperat: E (tr ) = 0 per r > 1 (per r = 1 no existeix)

Varianciat: V (tr ) = rr−2 per r > 2 (per r = 1, 2 infinita)

CA : 0 per r > 3 (per r = 1, 2, 3 no existeix)

Excess de kurtosis= CAp -3: 6r−4 per r > 4.

Albert Satorra ( Probabilitat, UPF ) AD/E-GRAU Tardor 2011 17 / 22

Page 18: Lli˘cons 16 - UPF84.89.132.1/~satorra/P/P2011L10.pdf · Lli˘cons 16: Albert Satorra Probabilitat, UPF Albert Satorra ( Probabilitat, UPF ) AD/E-GRAU Tardor 2011 1 / 22

Altres distribucions contınues notables

Distribucio F

Tenim

F(d1,d2) =χ2d1/d1

χ2d2/d2

on les dues chi-squadrats es consdieren son independents. Els valors d1 id2 s’anomenen graus de llibertat del numerador i denominadorrespectivament.

> pf(2.4,3,24)

[1] 0.907244

Albert Satorra ( Probabilitat, UPF ) AD/E-GRAU Tardor 2011 18 / 22

Page 19: Lli˘cons 16 - UPF84.89.132.1/~satorra/P/P2011L10.pdf · Lli˘cons 16: Albert Satorra Probabilitat, UPF Albert Satorra ( Probabilitat, UPF ) AD/E-GRAU Tardor 2011 1 / 22

Altres distribucions contınues notables

Distribucio F

Figure: Distribucio F

Albert Satorra ( Probabilitat, UPF ) AD/E-GRAU Tardor 2011 19 / 22

Page 20: Lli˘cons 16 - UPF84.89.132.1/~satorra/P/P2011L10.pdf · Lli˘cons 16: Albert Satorra Probabilitat, UPF Albert Satorra ( Probabilitat, UPF ) AD/E-GRAU Tardor 2011 1 / 22

Altres distribucions contınues notables

Taula de distribucions

Figure: Taula de distribucions de probabilitat

Albert Satorra ( Probabilitat, UPF ) AD/E-GRAU Tardor 2011 20 / 22

Page 21: Lli˘cons 16 - UPF84.89.132.1/~satorra/P/P2011L10.pdf · Lli˘cons 16: Albert Satorra Probabilitat, UPF Albert Satorra ( Probabilitat, UPF ) AD/E-GRAU Tardor 2011 1 / 22

Preparem l’examen final

Preparem l’examen final

Un Examen Tipus Test

Entre 25 i 30 preguntes del tipus del Test 1 i Test 2 fets als seminaris.Totes les preguntes seran noves

Respostes en Fulla de Lectura Optica: Instruccions per emplenar lafulla de lectura optica

Us donarem el Formulari i Taules que teniu a la web: Formulary andTables

Podeu portar calculadora simple (no tindreu acces a R)

Albert Satorra ( Probabilitat, UPF ) AD/E-GRAU Tardor 2011 21 / 22

Page 22: Lli˘cons 16 - UPF84.89.132.1/~satorra/P/P2011L10.pdf · Lli˘cons 16: Albert Satorra Probabilitat, UPF Albert Satorra ( Probabilitat, UPF ) AD/E-GRAU Tardor 2011 1 / 22

Preparem l’examen final

FINAL DE CLASSES!

Albert Satorra ( Probabilitat, UPF ) AD/E-GRAU Tardor 2011 22 / 22