Transcript
Statistik II V. Asymptotische Eigenschaften von OLS
Martin Huber
1/9
¨ Ubersicht
Konsistenz Asymptotische Normalit¨at
2/9
Konsistenz
Bisher haben wir u ¨ber die Eigenschaften des OLS Sch¨atzers in begrenzten/kleinen Stichproben (Gr¨ osse N) gesprochen, in welchen besagte Eigenschaften von der Stichprobengr¨ osse abh¨angen. Nachfolgend besch¨aftigen wir uns mit den Eigenschaften in grossen Stichproben: asymptotische Eigenschaften wenn N → ∞ Konsistenz: P(|βˆj − βj | > ) → 0 f¨ ur irgendein > 0 wenn N → ∞ plim(βˆj ) = βj
3/9
4/9
Unter Annahme von MLR.1-MLR.4 ist der OLS Sch¨atzer βˆj ein konsistenter Sch¨atzer f¨ ur βj f¨ ur alle j = 0, 1, ..., k. PN rˆij ui plim(βˆj ) = βj + plim Pi=1 N 2 i=1 rˆij wobei rˆij das (gesch¨atzte) Residuum der Regression von xj auf alle anderen Regressoren und Konstante in der Stichprobe ist Gesetz der grossen Zahl (Law of large numbers) plim a = α, wobei a dem Sch¨atzer in der Stichprobe f¨ ur das Moment α in der Population entspricht. Annahme MLR.4 E (u|x1 , x2 , ..., xk ) = 0 impliziert: E (u) = 0 und Cov (rj , u) = 0 ∀ j = 0, 1, ..., k - wobei rj das Residuum der Regression von xj auf alle anderen Regressoren und Konstante in der Population ist ⇒
plim(βˆj ) = βj +
Cov (rj , u) = βj Var (rj ) 5/9
Inkonsistenz des OLS Sch¨atzers βˆj : plim(βˆj − βj ) =
Cov (rj , u) wenn Cov (rj , u) 6= 0 Var (rj )
Asymptotisches Analog zur Verzerrung aufgrund unber¨ ucksichtigter Kontrollvariablen (“omitted variable bias”): Populationsmodell: y = β0 + β1 x1 + β2 x2 + u Gesch¨atztes Modell: yˇ = βˇ0 + βˇ1 x1 (x1 ,x2 ) Inkonsistenz: plim(βˇ1 ) = β1 + δ1 β2 wobei δ1 = Cov Var (x1 ) ⇒ Richtung der Inkonsistenz h¨angt von δ1 und β2 ab.
6/9
Asymptotische Normalit¨at (1)
Y1 , Y2 , Y3 , . . . sei eine Folge von unabh¨angigen Zufallsvariablen mit identischer Verteilung (u.i.v. = unabh¨angig und identisch verteilt, i.i.d. = independent and identically distributed), deren Erwartungswert E (Y ) und Varianz var (Y ) existieren und endlich sind. Sei SN die n-te Teilsumme dieser Zufallsvariablen (bestehend aus n Zufallsvariablen), SN = Y1 + Y2 + · · · + YN . Der Erwartungswert von SN ist N · E (Y ) und die Varianz ist N · var (Y ).
7/9
Asymptotische Normalit¨at (2) Zentraler Grenzwertsatz (Central Limit Theorem): SN − N · E (Y ) a √ ∼ N(0, 1), ZN = p Var (Y ) N d.h., Verteilungsfunktion von ZN konvergiert zur Standardnormalverteilung, wenn N gegen ∞ geht. Dies impliziert: ZN =
SN N√− E (Y ) Var (Y ) √ N
∼a N(0, 1),
SN N√ der Mittelwert von Y in der Stichprobe der N Zufallsvariablen Var (Y ) und √N die Standardabweichung des Mittelwerts.
wobei ist
Dies impliziert:
SN N
∼a N E (Y ), VarN(Y ) 8/9
Asymptotische Normalit¨at (3) Der zentrale Grenzwertsatz l¨asst sich auch auf den OLS Sch¨atzer u ¨bertragen, der wie der Mittelwert eine Funktion von Zufallsvariablen ist: q βˆj − βj q ∼a N(0, 1) ∀j = 1, 2, ..., k, wobei Var (βˆj ) = se(βˆj ) Var (βˆj ) βˆj ∼a N βj , Var (βˆj ) Var (βˆj ) =
σ2 σ2 ≈ SSTj (1 − Rj2 ) N · Var (xj ) · (1 − Rj2 )
P SSTj = ni=1 (xij − x¯j )2 und Rj2 = R 2 der Regression von xj auf alle anderen Regressoren und Konstante Var (βˆj ) geht mit der Rate
1 N,
se(βˆj ) mit der Rate
√1 N
gegen Null
Gr¨ossere Stichproben f¨ uhren zu effizienteren Sch¨atzern 9/9