Notizen Zu Maßtheoretischen Grundlagen Der

Transcript

Notizen zu maßtheoretischen Grundlagen der Wahrscheinlichkeitstheorie Wintersemester 2015/16 R. Neininger Inhaltsverzeichnis 1 Maßtheoretische Grundlagen 1 Mengensysteme und Maße . . . . . . . . . . . . . . 2 Beispiele von messbaren R¨aumen und Maßr¨aumen 3 Messbare Abbildungen . . . . . . . . . . . . . . . . 4 Integration . . . . . . . . . . . . . . . . . . . . . . 5 Produktmaße und Satz von Fubini . . . . . . . . . 6 Maße mit Dichten und Satz von Radon-Nikodym . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2 2 5 8 10 12 13 2 Grundbegriffe der Wahrscheinlichkeitstheorie 7 Zufallsvariable und deren Verteilungen . . 8 Erwartungswerte . . . . . . . . . . . . . . 9 Konvergenz von Zufallsvariablen . . . . . 10 Stochastische Unabh¨ angigkeit . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 15 15 16 19 19 . . . . . . . . . . . . . . . . . . . . Im Folgenden werden einige wahrscheinlichkeitstheoretische Grundbegriffe im Kontext der Maß- und Integrationstheorie zusammengestellt, um auf die Vorlesung H¨ohere Sto” chastik“ vorzubereiten. 1 1 Maßtheoretische Grundlagen 1 Maßtheoretische Grundlagen 1 Mengensysteme und Maße Im folgenden sei Ω stets eine nichtleere Menge. Definition 1.1. Eine nichtleere Familie A von Teilmengen von Ω heißt Algebra (auf Ω), falls f¨ ur alle A, B ∈ A gilt: Ac := Ω \ A, A ∩ B, A ∪ B ∈ A. Eine Algebra heißt σ-Algebra, falls zus¨atzlich f¨ ur jede Folge (Ai )i≥1 in A gilt: [ Ai ∈ A. i≥1 Bemerkung 1. Jede Algebra enth¨alt ∅ und Ω. Jede σ-Algebra enth¨alt mit einer Folge (Ai )i≥1 auch deren Durchschnitt ∩i≥1 Ai . Lemma 1.2. Sei I 6= ∅ eine beliebige Indexmenge. Sind Ai f¨ ur i ∈ I Algebren (auf Ω), so ist ∩i∈I Ai Algebra (auf Ω). Sind Ai f¨ ur i ∈ I σ-Algebren (auf Ω), so ist ∩i∈I Ai σ-Algebra (auf Ω). Beispiel 1. {∅, Ω} sowie die Potenzmenge P(Ω) sind σ-Algebren. Sei I := {∅, R} ∪ {(a, b] : −∞ < a < b < ∞} ∪ {(−∞, b] : b ∈ R} ∪ {(a, ∞) : a ∈ R} sowie A die Menge aller endlichen Vereinigungen paarweise disjunkter Mengen aus I. Dann ist A eine Algebra auf R, aber keine σ-Algebra. Bemerkung 2. Ein Mengensystem A ist genau dann eine σ-Algebra, falls gelten: [ (a) Ω ∈ A, (b) A ∈ A ⇒ Ac ∈ A, (c) (Ai )i≥1 Folge in A ⇒ Ai ∈ A. i≥1 Lemma 1.3. Sei C ein beliebiges System von Teilmengen von Ω. Dann gibt es eine kleinste Algebra A(C) und eine kleinste σ-Algebra σ(C), die C enthalten. Die Systeme A(C) und σ(C) heißen die von C erzeugte Algebra bzw. die von C erzeugte σ-Algebra. Bemerkung 3. Kleinste Algebra A(C), die C enth¨alt, bedeutet, dass gelten: C ⊂ A(C) sowie f¨ ur jede Algebra A mit C ⊂ A gilt A(C) ⊂ A. Definition 1.4. Ist A eine σ-Algebra mit A = σ(C), so heißt C Erzeugendensystem von A. Ein System C von Teilmengen (von Ω) heißt ∩-stabil (lies: schnittstabil), falls f¨ ur alle A, B ∈ C gilt: A ∩ B ∈ C. Definition 1.5. Ein System D von Teilmengen (von Ω) heißt Dynkin-System, falls (a) Ω ∈ D, (b) D ∈ D ⇒ Dc ∈ D, (c) (Di )i≥1 Folge paarweise disjunkter Mengen in D ⇒ [ i≥1 gelten. 2 Di ∈ D. 1 Maßtheoretische Grundlagen Bemerkung 4. Es gilt stets ∅ ∈ D. Ein Dynkin-System ist abgeschlossen unter endlicher Vereinigung paarweise disjunkter Mengen. F¨ ur C ⊂ P(Ω) existiert analog zu Lemma 1.3 ein kleinstes Dynkin-System d(C), das C enth¨alt. Satz 1.6. Ist ein Dynkin-System ∩-stabil, so ist es eine σ-Algebra. Satz 1.7. Ist C ein ∩-stabiles Mengensystem, so gilt d(C) = σ(C). Definition 1.8. Ein Inhalt µ auf einer Algebra A ist eine Abbildung µ : A → [0, ∞] mit den Eigenschaften µ(∅) = 0 und µ(A ∪ B) = µ(A) + µ(B) f¨ ur alle A, B ∈ A mit A ∩ B = ∅. Ein Inhalt heißt σ-endlich, falls eine Folge (Bi )i≥1 in A existiert mit Ω = ∪i≥1 Bi und µ(Bi ) < ∞ f¨ ur alle i ≥ 1. Ein Inhalt µ heißt σ-additiv, falls f¨ ur jede Folge (Ai )i≥1 paarweise disjunkter Mengen in A mit ∪i≥1 Ai ∈ A gilt ! ∞ ∞ [ X µ Ai = µ(Ai ). i=1 i=1 Ein σ-additiver Inhalt, der auf einer σ-Algebra definiert ist, heißt Maß. Ein Maß µ mit µ(Ω) = 1 heißt Wahrscheinlichkeitsmaß (kurz W-Maß). Bemerkung 5. Es gelten die u ur das Symbol ∞. F¨ ur a ∈ R ist ¨blichen Rechenregeln f¨ a + ∞ = ∞ + a = ∞, es ist ∞ + ∞ = ∞. (Sp¨ater wird auch die Konvention 0 · ∞ := 0 verwendet). Ein σ-additiver Inhalt auf einer Algebra heißt auch Pr¨ amaß. Lemma 1.9. Sei µ ein Inhalt auf einer Algebra A. (a) µ ist monoton, d.h. f¨ ur A, B ∈ A mit A ⊂ B gilt µ(A) ≤ µ(B). (b) µ ist endlich additiv, d.h. f¨ ur paarweise disjunkte Mengen A1 , . . . , An ∈ A gilt ! n n X [ µ(Ai ). µ Ai = i=1 i=1 (c) µ ist endlich subadditiv, d.h. f¨ ur A1 , . . . , An ∈ A gilt ! n n [ X µ Ai ≤ µ(Ai ). i=1 i=1 Satz 1.10. Sei µ ein Maß auf einer σ-Algebra F. (a) µ ist stetig von oben, d.h. f¨ ur jede fallende Folge (Ai )i≥1 in F mit µ(An ) < ∞ f¨ ur ein n ∈ N gilt ! ∞ \ µ Ai = lim µ(Ai ). i→∞ i=1 3 1 Maßtheoretische Grundlagen (b) µ ist stetig von unten, d.h. f¨ ur jede aufsteigende Folge (Ai )i≥1 in F gilt ! ∞ [ µ Ai := lim µ(Ai ). i→∞ i=1 (c) µ ist σ-subadditiv, d.h. f¨ ur beliebige Folgen (Ai )i≥1 in F gilt ! ∞ ∞ [ X µ Ai ≤ µ(Ai ). i=1 i=1 Bemerkung 6. Eine Folge (Ai )i≥1 heißt aufsteigend, falls A1 ⊂ A2 ⊂ · · · , sowie absteigend, falls A1 ⊃ A2 ⊃ · · · . Wir schreiben daf¨ ur auch Ai ↑ bzw. Ai ↓. Lemma 1.11. Sei µ ein endlicher Inhalt auf einer Algebra A. Dann sind ¨aquivalent: (a) µ ist σ-additiv (d.h. ein Pr¨ amaß) (b) µ ist stetig in der leeren Menge, d.h. f¨ ur jede Folge (Ai )i≥1 in A mit Ai ↓ ∅ gilt µ(Ai ) → 0 f¨ ur i → ∞. ´odory) Sei µ0 ein σ-endliches Pr¨amaß Satz 1.12. (Fortsetzungssatz von Carathe auf einer Algebra A auf Ω. Dann gibt es genau ein Maß µ auf σ(A), das µ0 fortsetzt, d.h. mit µ(A) = µ0 (A) f¨ ur alle A ∈ A. Bemerkung 7. Im Beweis des Fortsetzungssatzes von Carath´eodory wird das Maß µ wie folgt konstruiert: Zun¨ achst wird durch  ∞  ∞ X [ ∗ µ (A) := inf µ0 (An ) A ⊂ An , An ∈ A , A ∈ P(Ω), n=1 n=1 ein ¨ außeres Maß µ∗ definiert, d.h. eine monotone, σ-subadditive Mengenfunktion µ∗ : P(Ω) → [0, ∞]. Es gilt µ(A) = µ∗ (A) f¨ ur alle A ∈ A. Die Elemente des Mengensystems A∗ := {A ⊂ Ω | ∀ Q ⊂ Ω : µ∗ (Q) ≥ µ∗ (Q ∩ A) + µ∗ (Q ∩ Ac )} heißen µ∗ -messbar. Es ist leicht zu zeigen, dass A ⊂ A∗ gilt. Man kann nun ferner zeigen, dass A∗ eine σ-Algebra ist und dass die Einschr¨ankung von µ∗ auf A∗ ein Maß ist. Wegen σ(A) ⊂ A∗ ist die Einschr¨ankung von µ∗ auf σ(A) dann ein Maß µ wie im Fortsetzungssatz von Carath´eodory gew¨ unscht. Die Eindeutigkeit von µ folgt mit Satz 1.13, da µ0 σ-endlich ist. Satz 1.13. (Eindeutigkeitssatz) Sei C ein ∩-stabiles Erzeugendensystem einer σAlgebra F sowie µ und ν Maße auf F, die auf C u ¨bereinstimmen. Existiert eine Folge (Bi )i≥1 in C mit Bi ↑ Ω und µ(Bi ) < ∞ f¨ ur alle i ≥ 1, so gilt µ = ν. 4 1 Maßtheoretische Grundlagen Bemerkung 8. Insbesondere stimmen zwei endliche Maße µ und ν, die auf einem ∩stabilen Erzeugendensystem u ur die µ(Ω) = ν(Ω) < ∞ gilt, auf ¨bereinstimmen und f¨ der erzeugten σ-Algebra u ¨berein. Speziell stimmen zwei W-Maße µ und ν, die auf einem ∩-stabilen Erzeugendensystem u ¨bereinstimmen, auf der erzeugten σ-Algebra u ¨berein. Definition 1.14. Sei A eine σ-Algebra auf Ω. Dann heißt (Ω, A) messbarer Raum sowie die Elemente von A messbare Mengen. Ist (Ω, A) ein messbarer Raum und µ ein Maß auf A, so heißt (Ω, A, µ) Maßraum. Ist µ(Ω) < ∞, so heißt der Maßraum endlich. Gilt µ(Ω) = 1, so heißt der Maßraum Wahrscheinlichkeitsraum (kurz W-Raum). Definition 1.15. Sei (Ω, A, µ) ein Maßraum. Eine Menge A ⊂ Ω heißt µ-Nullmenge, falls ein F ∈ A exisitiert mit A ⊂ F und µ(F) = 0. Der Maßraum heißt vollst¨ andig, falls A alle µ-Nullmengen enth¨ alt. Lemma 1.16. Sind Ai f¨ ur i ∈ N µ-Nullmengen, so ist ∪i≥1 Ai eine µ-Nullmenge. 2 Beispiele von messbaren R¨ aumen und Maßr¨ aumen Wie in Beispiel 1 bezeichne I das Mengensystem I = {∅, R} ∪ {(a, b] : −∞ < a < b < ∞} ∪ {(−∞, b] : b ∈ R} ∪ {(a, ∞) : a ∈ R} sowie f¨ ur d ∈ N Id := {I1 × · · · × Id | I1 , . . . , Id ∈ I}. Definition 2.1. B := σ(I) heißt die σ-Algebra der Borelschen Mengen in R (oder Borelsche σ-Algebra). Ebenso heißt Bd = σ(Id ) die σ-Algebra der Borelschen Mengen in Rd . Lemma 2.2. Die folgenden Mengensysteme sind Erzeugendensysteme der Borelschen σ-Algebra in R: (a) {(−∞, t] | t ∈ R}, (b) Die Menge aller Intervalle in R. Die folgenden Mengensysteme sind Erzeugendensysteme von Bd : (c) Die offenen Teilmengen des Rd , (d) Die abgeschlossenen Teilmengen des Rd , (e) Die kompakten Teilmengen des Rd . Produktr¨ aume Aus messbaren R¨ aumen k¨ onnen Produkte gebildet werden. Seien dazu (Ωi , Ai ) f¨ ur i ∈ I messbare R¨ aume mit beliebiger Indexmenge I. Wir betrachten im kartesischen Produkt ×i∈I Ωi folgende Teilmengen: F¨ ur k ∈ I und A ∈ Ak sei   {k} (1) A := x = (xi )i∈I ∈ Ωi xk ∈ A i∈I × 5 1 Maßtheoretische Grundlagen Definition 2.3. Die σ-Algebra σ({A{k} : k ∈ I, A ∈ Ak }), die von den Mengen A(k) erzeugt wird, heißt Produkt-σ-Algebra auf ×i∈I Ωi . Sie wird mit ⊗i∈I Ai bezeichnet. Der messbare Raum (×i∈I Ωi , ⊗i∈INAi ) heißt Produktraum. Sind (Ωi , Ai ) identisch gleich (Ω, A), ur den Produktraum. so schreibt man auch (ΩI , A I ) f¨ Bemerkung 9. Die Mengen der Form (1) bilden kein ∩-stabiles Erzeugendensystem. Man betrachtet deshalb die Mengen aller endlichen Durchschnitte von Mengen der Form (1): F¨ ur endliche Teilmengen J ⊂ I und Aj ∈ Aj f¨ ur j ∈ J seien   J A := x = (xi )i∈I ∈ Ωi xj ∈ Aj f¨ ur j ∈ J , i∈I   J Ωi J ⊂ I endlich, Aj ∈ Aj f¨ ur j ∈ J . E := A ⊂ i∈I × × Die Mengen AJ heißen endlichdimensionale Zylinder. Das System E der endlichdimensionalen Zylinder ist ∩-stabil, und es gilt O Ai = σ(E). i∈I Konstruktion von Maßen auf (R, B) Wir betrachten Funktionen F : R → R, die rechtsseitig stetig und monoton wachsend sind. Es seien F(∞) := lim F(s) ∈ R ∪ {+∞}, s→∞ F(−∞) := lim F(s) ∈ R ∪ {−∞}. s→−∞ F¨ ur die Intervalle aus Beispiel 1 erkl¨aren wir Werte wie folgt: F¨ ur (s, t] mit −∞ ≤ s < t < ∞ sei µ((s, t]) := F(t) − F(s). Ferner seien µ((s, ∞)) := F(∞) − F(s), µ(R) := F(∞) − F(−∞) und µ(∅) = 0. Sodann kann µ zu einem Inhalt auf der Algebra A(I) aus Beispiel 1 fortgesetzt werden: F¨ ur ur i 6= j sei A = ∪ki=1 Ii mit Ii ∈ I und Ii ∩ Ij = ∅ f¨ µ(A) := k X µ(Ii ). i=1 Der Inhalt µ ist σ-endlich, da R= ∞ [ (−i, i] und µ((−i, i]) = F(i) − F(−i) < ∞. i=1 Lemma 2.4. µ : A(I) → [0, ∞] ist ein Pr¨amaß. 6 1 Maßtheoretische Grundlagen Nach dem Satz 1.12 von Carath´eodory kann µ eindeutig zu einem Maß auf σ(A(I)) = σ(I) = B fortgesetzt werden. Bemerkung 10. Man nennt monoton wachsende, rechtsseitig stetige Funktionen F : R → R wegen voriger Konstruktion auch maßerzeugende Funktionen. Definition 2.5. W¨ ahlt man in voriger Konstruktion F(t) = t f¨ ur t ∈ R, so heißt das resultierende Maß Lebesgue-Maß auf B. F¨ ur allgemeine rechtsseitig stetige und monoton wachsende Funktionen F heißt das resultieren Maß Lebesgue-Stieltjes-Maß zu F. Um mit der vorigen Konstruktion Wahrscheinlichkeitsmaße zu erhalten, muss F(∞) − F(−∞) = 1 gelten. Da nur die Zuw¨achse von F relevant sind (nicht die absoluten Werte), k¨onnen wir annehmen, dass lim F(t) = 1 t→∞ und lim F(t) = 0 t→−∞ (2) gelten. Definition 2.6. Eine Funktion F : R → R, die rechtsseitig stetig und monoton wachsend ist sowie mit (2), heißt Verteilungsfunktion. Bemerkung 11. In manchen Darstellungen wird die Forderung der rechtsseitigen Stetigkeit durch die der linksseitigen Stetigkeit ersetzt. In diesen F¨allen wird statt mit rechtseitig abgeschlossenen Intervallen (s, t] mit linksseitig abgeschlossenen Intervallen [s, t) gearbeitet. Satz 2.7. Zu jeder Verteilungsfunktion F existiert genau ein W-Maß auf (R, B) mit µ((−∞, t]) = F(t), t ∈ R. Ist umgekehrt ein W-Maß µ auf (R, B) gegeben, so ist die Funktion t 7→ µ((−∞, t]) eine Verteilungsfunktion. Diskrete Maße Sei wieder Ω eine beliebige Menge sowie {xi ∈ Ω | i ∈ I} eine h¨ochstens abz¨ahlbare Teilmenge verschiedener Punkte in Ω sowie ai ∈ [0, ∞) f¨ ur i ∈ I. F¨ ur jede σ-Algebra A auf Ω ist durch X µ(A) := ai 1A (xi ), A ∈ A, (3) i∈I ein Maß definiert. Hierbei bezeichnet 1A (x) = 1, x ∈ A, 0, x ∈ / A, die Indikatorfunktion von A. Falls {xi } ∈ A f¨ ur i ∈ I, so ist µ σ-endlich. Derartige Maße heißen diskret. Die a heißen dann Gewichte oder Punktmassen der Punkte xi . Im Falle i P ur ein x ∈ Ω und a = 1, also µ(A) = 1A (x) i∈I ai = 1 ist µ ein W-Maß. Im Falle I = {x} f¨ heißt µ Dirac-Maß (in x) und wird auch mit δ ur µ wie x bezeichnet. Man P P schreibt dann f¨ in (3) auch µ = i∈I ai δxi . Im Spezialfall Ω = N und µ = n∈N δn heißt µ Z¨ ahlmaß, da es die Punkte einer Teilmenge von N z¨ahlt. 7 1 Maßtheoretische Grundlagen 3 Messbare Abbildungen Definition 3.1. Seien (Ω, A) und (Ω 0 , A 0 ) messbare R¨aume. Eine Abbildung f : Ω → Ω 0 heißt A-A 0 -messbar, falls f−1 (A 0 ) := {f−1 (A) | A ∈ A 0 } ⊂ A gilt. Sind die relevanten σ-Algebren A und A 0 aus dem Zusammenhang klar, so sagt man einfach, f sei messbar. Ist f : Ω → R, so heißt f A-messbar (oder kurz messbar), falls f A-B-messbar ist. Bemerkung 12. Wir betrachten auch numerische Funktionen f : Ω → R, wobei R := R ∪ {∞} ∪ {−∞}. Auf R wird meist die σ-Algebra B, die von B ∪ {∞} ∪ {−∞} erzeugt wird, verwendet. Eine A-B-messbare numerische Funktion heißt auch kurz messbare, numerische Funktion. Lemma 3.2. Sei f : Ω → Ω 0 wie in Definition 3.1. Ist C ein Erzeugendensystem von A 0 , d.h. A 0 = σ(C), so ist f genau dann A-A 0 -messbar, falls f−1 (C) ⊂ A. Lemma 3.3. Seien (Ω1 , A1 ), (Ω2 , A2 ), (Ω3 , A3 ) messbare R¨aume und f1 : Ω1 → Ω2 , f2 : Ω2 → Ω3 messbare Abbildungen. Dann ist die Komposition f2 ◦ f1 : Ω1 → Ω3 messbar. Lemma 3.4. Sei (Ω, A) ein messbarer Raum und (fn )n≥1 eine Folge messbarer, numerischer Funktionen. Dann sind lim inf fn n→∞ und lim sup fn n→∞ messbare, numerische Funktionen. Sind fn reellwertig und existiert lim inf n→∞ fn , so ist diese Funktion messbar, ebenso lim supn→∞ fn . Existiert f¨ ur eine Folge (fn )n≥1 reellwertiger messbarer Funktionen f : = limn→∞ fn , so ist f messbar. Lemma 3.5. Sind f, g : Ω → R messbare Funktionen, so sind auch f + g, fg, αf mit α ∈ R messbar. Gilt g(ω) 6= 0 f¨ ur alle ω ∈ Ω, so ist auch f/g messbar. Jede konstante Funktion ist messbar. Ist A ∈ A, so ist 1A : Ω → R messbar. Lemma 3.6. Jede stetige Abbildung f : Rn → Rm ist Bn -Bm -messbar. Lemma 3.7. Sei f : Ω → R eine messbare Funktion. Dann sind f+ := max{f, 0}, f− := max{−f, 0} und |f| messbar. Die Funktionen f+ und f− heißen Positivteil bzw. Negativteil von f. Definition 3.8. Sei (Ω, A) ein messbarer Raum. Eine Funktion f= n X ai 1Ai i=1 mit n ∈ N, a1 , . . . , an ∈ R und A1 , . . . , An ∈ A heißt einfache Funktion oder Elementarfunktion. 8 1 Maßtheoretische Grundlagen Bemerkung 13. Die Menge der einfachen Funktionen ist abgeschlossen gegen¨ uber folgender Operationen: Sind f, g einfache Funktionen und α ∈ R, so sind αf, f + g, fg, max{f, g} sowie min{f, g} einfache Funktionen. Lemma 3.9. Jede nichtnegative, messbare, numerische Funktion f ist punktweiser Grenzwert einer aufsteigenden Folge (fn )n≥1 nichtnegativer einfacher Funktionen. Bemerkung 14. Im Fall f(ω) = limn→∞ fn (ω) = ∞ bedeutet dies, dass (fn (ω))n≥1 bestimmt divergent ist, d.h. f¨ ur alle K > 0 ein n0 ∈ N existiert mit fn (ω) ≥ K f¨ ur alle n ≥ n0 . Satz 3.10. Sei (Ω, A) ein messbarer Raum und Γ eine Menge nichtnegativer, messbarer, numerischer Funktionen, f¨ ur die gelten: (a) f, g ∈ Γ , a, b ∈ R+ ⇒ af + bg ∈ Γ , (b) (fn )n≥1 Folge in Γ mit fn ↑ f ⇒ f ∈ Γ , (c) 1A ∈ Γ f¨ ur alle A ∈ A. Dann ist Γ die Menge aller nichtnegativen, messbaren, numerischen Funktionen. Bemerkung 15. Satz 3.10 wird h¨aufig verwendet, um Eigenschaften messbarer numerischer Funktionen zu zeigen. Man weist zun¨achst die Eigenschaft f¨ ur Indikatorfunktionen nach und zeigt dann, dass die Eigenschaft erhalten bleibt beim Bilden endlicher Linearkombinationen mit positiven Koeffizienten sowie beim Bilden aufsteigender Grenzwerte. Satz 3.10 liefert dann, dass die Eigenschaft f¨ ur alle nichtnegativen, messbaren, numerischen Funktionen gilt. Eine derartige Vorgehensweise wird auch als algebraische Induktion bezeichnet. Bezeichnungen Ist f : Ω → Ω 0 eine Abbildung und A 0 eine σ-Algebra auf Ω 0 , so bezeichnet σ(f) := f−1 (A 0 ) = {f−1 (A) | A ∈ A 0 } die von f erzeugte σ-Algebra (auf Ω). Sind fi : Ω → Ωi Abbildungen und Ai σ-Algebren auf Ωi f¨ ur i ∈ I mit beliebiger Indexmenge I. Dann bezeichnet ! [ σ(fi ) σ(fi | i ∈ I) := σ i∈I die von (fi )i∈I auf Ω erzeugt σ-Algebra. Ferner verwenden wir f¨ ur Funktionen bzw. Abbildungen f die in der Stochastik u ¨blichen Schreibweisen {f ≤ x} := {ω ∈ Ω | f(ω) ≤ x}, x ∈ R, {f ∈ A} := {ω ∈ Ω | f(ω) ∈ A}, A ⊂ Ω0 sowie ¨ahnliche Schreibweisen. 9 1 Maßtheoretische Grundlagen 4 Integration In diesem Abschnitt sei (Ω, A, µ) stets ein σ-endlicher Maßraum. P Definition 4.1. Sei f = ni=1 ai 1Ai eine nichtnegative, einfache Funktion. Dann wird das Integral von f definiert durch Z Z f dµ := f(ω) dµ(ω) := n X ai µ(Ai ). (4) i=1 Sei f : Ω → [0, ∞] messbar und (fn )n≥1 eine Folge nichtnegativer, einfacher Funktionen mit fn ↑ f. Dann wird das Integral von f definiert durch Z Z Z f dµ := f(ω) dµ(ω) := lim fn dµ ∈ [0, ∞]. (5) n→∞ R Bemerkung 16. Zum Nachweis, dass f dµ in (4) wohldefiniert ist, zeigt man, dass die rechte Seite unabh¨ angig von der Wahl der von f als einfache Funktion ist, PDarstellung P 0 dass also f¨ ur zul¨ assige Darstellungen f = ni=1 ai 1Ai = ni=1 ai0 1Ai0 gilt: n X 0 ai µ(Ai ) = n X i=1 ai0 µ(Ai0 ). i=1 Ebenso weißt man f¨ ur (5) nach, dass die rechte Seite unabh¨angig von der Wahl der approximierenden Folge ist. F¨ ur nichtnegative, messbare, numerische Funktionen ist das Integral stets definiert. Es kann den Wert ∞ haben. Bemerkung 17. Wir haben die folgenden Eigenschaften: R (a) Ist µ({f = ∞}) > 0, so ist f dµ = ∞. (b) Sind f, g nichtnegative, einfache Funktionen und a, b ≥ 0, so ist af + bg eine nichtnegative, einfache Funktion und es gilt die Linearit¨ at des Integrals: Z Z Z af + bg dµ = a f dµ + b g dµ. F¨ ur nichtnegative, einfache Funktionen f, g mit f ≤ g gilt die Monotonie des Integrals: Z Z f dµ ≤ g dµ. (c) Die Linearit¨ at und Monotonie des Integrals aus Bemerkung 17 (b) u ¨bertragen sich durch Grenz¨ ubergang auf nichtnegative, messbare Funktionen. 10 1 Maßtheoretische Grundlagen Definition 4.2. Eine messbare, numerische Funktion f : Ω → R heißt µ-integrierbar, falls Z |f| dµ < ∞. Bemerkung 18. Wegen |f| = f+ + f− ist dies ¨aquivalent dazu, dass R − f dµ < ∞. R f+ dµ < ∞ und Definition 4.3. Sei f eine µ-integrierbare Funktion. Dann ist das Integral von f definiert durch Z Z Z + f dµ := f dµ − f− dµ. Ist A ∈ A, so ist: Z Z f dµ := 1A f dµ A das Integral von f u ¨ber A. Bemerkung 19. Das hier f¨ ur µ-integrierbare Funktionen definierte Integral heißt auch Lebesgue-Integral. Bemerkung 20. Falls f µ-integrierbar ist, so schreibt man f ∈ L1 (Ω, A, µ) oder kurz f ∈ L1 (µ) oder nur f ∈ L1 . Mit L1 (Ω, A, µ) wird der Raum der µ-integrierbaren Funktionen bezeichnet. Satz 4.4. F¨ ur f, g ∈ L1 (Ω, A, µ) gelten: R R (a) f ≤ g ⇒ f dµ ≤ g dµ. R R R (b) a, b ∈ R ⇒ af + bg ∈ L1 (Ω, A, µ) und af + bg dµ = a f dµ + b g dµ. R R R (c) A, B ∈ A mit A ∩ B = ∅ ⇒ A∪B f dµ = A f dµ + B f dµ. R (d) N ∈ A mit µ(N) = 0 ⇒ N f dµ = 0. (e) Ist f messbare Funktion und g ∈ L1 (Ω, A, µ) mit |f| ≤ g, so ist f ∈ L1 (Ω, A, µ). Bemerkung 21. Eine Eigenschaft in Bezug auf Elemente von Ω gilt µ-fast u ¨berall (kurz: µ-f.¨ u.), falls die Menge A der ω ∈ Ω, f¨ ur die die Eigenschaft nicht gilt, eine µ-Nullmenge ist. Ist µ ein W-Maß, so sagt man auch µ-fast sicher (kurz: µ-f.s.). Sind etwa f und g messbare Funktionen, so bedeutet f = g µ-f.¨ u. also, dass gilt: µ({f 6= g}) = µ({ω ∈ Ω | f(ω) 6= g(ω)}) = 0. (Beachte, dass {f 6= g} eine messbare Menge ist.) Man sagt auch, dass die Eigenschaft f¨ ur µ-fast alle ω ∈ Ω gelte. Lemma 4.5. Seien f, g ∈ L1 (Ω, A, µ). Dann gelten: R R (a) f = g µ-f.¨ u ⇒ f dµ = g dµ. R R (b) f ≤ g und f dµ = g dµ ⇒ f = g µ-f.¨ u. 11 1 Maßtheoretische Grundlagen Bemerkung 22.RGilt f¨ ur Rf, g ∈ L1 (Ω, A, µ), dass f = g µ-fast u ¨berall, so gilt gem¨aß Lem¨ ma 4.5 (a), dass f dµ = g dµ. Andern einer Funktion auf (messbaren) µ-Nullmengen ¨ hat also keinen Einfluss auf das Integral der Funktion. F¨ ur die Aquivalenzrelation f∼g :⇐⇒ f = g µ-fast u ¨berall auf L1 (Ω, A, µ) bezeichnet man den Quotientenraum mit L1 (Ω, A, µ) := L1 (Ω, A, µ)/ ∼ oder kurz auch L1 (µ) oder nur L1 . Wir k¨onnen dann auch das Integral f¨ ur Elemente aus ¨ L1 (Ω, A, µ) definieren als Integral eines beliebigen Repr¨asentanten der Aquivalenzklasse. Satz 4.6. (Satz von der monotonen Konvergenz; Satz von B. Levi) Sei (fn )n≥1 eine Folge nichtnegativer, messbarer, numerischer Funktionen mit fn ↑ f µ-f.¨ u. Dann gilt Z Z lim fn dµ = f dµ. n→∞ Korollar 4.7. Sei f eine nichtnegative, messbare, numerische Funktion und (Ai )i≥1 eine Folge paarweise disjunkter Mengen in A. Dann gilt Z XZ f dµ = f dµ. S Ai i∈N i∈N Ai Satz 4.8. (Lemma von Fatou) Sei (fn )n≥1 eine Folge nichtnegativer, messbarer, numerischer Funktionen. Dann gilt Z Z lim inf fn dµ ≤ lim inf fn dµ. n→∞ n→∞ Satz 4.9. (Satz von der majorisierten Konvergenz; Satz von Lebesgue) Sei (fn )n≥1 eine Folge µ-integrierbarer Funktionen. Es existiere ein g ∈ L1 (Ω, A, µ) mit |fn | ≤ g f¨ ur alle n ∈ N. Falls f = limn→∞ fn µ-f.¨ u. existiert, so gilt f ∈ L1 (Ω, A, µ) und Z Z lim fn dµ = f dµ. n→∞ 5 Produktmaße und Satz von Fubini In diesem Abschnitt seien stets (Ω1 , A1 ) und (Ω2 , A2 ) messbare R¨aume. Nach Bemerkung 9 wird die Produkt-σ-Algebra A1 ⊗ A2 auf Ω1 × Ω2 vom ∩-stabilen Mengensystem {A1 × A2 | A1 ∈ A1 , A2 ∈ A2 } erzeugt. (1) Definition 5.1. Sei f : Ω1 × Ω2 → R eine Funktion. F¨ ur ω1 ∈ Ω1 sei fω1 : Ω2 → R (1) (2) durch fω1 (ω2 ) = f(ω1 , ω2 ) f¨ ur alle ω2 ∈ Ω2 definiert. F¨ ur ω2 ∈ Ω2 sei fω2 : Ω1 → R (2) (1) (2) durch fω2 (ω1 ) = f(ω1 , ω2 ) f¨ ur alle ω1 ∈ Ω1 definiert. Die Funktionen fω1 , fω2 heißen (1) Schnitte von f. F¨ ur A ⊂ Ω1 × Ω2 sei analog Aω1 := {ω2 ∈ Ω2 | (ω1 , ω2 ) ∈ A} und (2) Aω2 := {ω1 ∈ Ω1 | (ω1 , ω2 ) ∈ A}. 12 1 Maßtheoretische Grundlagen Lemma 5.2. Sei f : Ω1 × Ω2 → R eine A1 ⊗ A2 -messbare Funktion. F¨ ur alle ω2 ∈ Ω2 (1) (2) ur alle ω1 ∈ Ω1 sind die Schnitte fω1 A2 -messbar. sind die Schnitte fω2 A1 -messbar. F¨ Satz 5.3. Seien µ1 , µ2 σ-endliche Maße auf (Ω1 , A1 ) bzw. (Ω2 , A2 ). Dann existiert genau ein Maß µ auf A1 ⊗ A2 mit µ(A1 × A2 ) = µ1 (A1 )µ2 (A2 ) f¨ ur alle A1 ∈ A1 und A2 ∈ A2 . Das Maß µ heißt Produktmaß von µ1 und µ2 und wird mit µ1 ⊗ µ2 bezeichnet. Satz 5.4. (Satz von Tonelli/Fubini) Sei f : Ω1 ×Ω2 → R eine messbare, numerische Funktion, die nichtnegativ oder µ1 ⊗ µ2 -integrierbare ist. Dann gilt: Z ZZ f dµ1 ⊗ µ2 = f(ω1 , ω2 ) dµ1 (ω1 ) dµ2 (ω2 ) (6) ZZ = f(ω1 , ω2 ) dµ2 (ω2 ) dµ1 (ω1 ). (7) Bemerkung 23. Man beachte, dass das innere Integral in (6) und (7) jeweils nur bis auf eine µ2 - bzw. µ1 -Nullmenge definiert zu sein braucht: F¨ ur µ1 -fast alle ω1 ∈ Ω1 (1) (2) ist die Funktion fω1 µ2 -integrierbar und f¨ ur µ2 -fast alle ω2 ∈ Ω2 ist die Funktion fω2 µ1 -integrierbar. Wegen Bemerkung 22 ist das ¨außere Integral jeweils trotzdem definiert. Bemerkung 24. Der Fall nichtnegativer Funktionen in Satz 5.4 wird u ¨blicherweise als Satz von Tonelli bezeichnet, der Fall µ1 ⊗ µ2 -integrierbarer Funktionen als Satz von Fubini. 6 Maße mit Dichten und Satz von Radon-Nikodym In diesem Abschnitt sei (Ω, A, µ) ein σ-endlicher Maßraum. Satz 6.1. Sei f : Ω → [0, ∞) messbar. Dann wird durch Z ν(A) := f dµ, A ∈ A, A ein σ-endliches Maß auf (Ω, A) definiert. F¨ ur jede Menge A ∈ A mit µ(A) = 0 gilt ν(A) = 0. R Definition 6.2. Ein Maß ν mit ν(A) = A f dµ f¨ ur alle A ∈ A heißt Maß mit µ-Dichte f. Ist ν ein Maß mit einer µ-Dichte f, so ist f µ-f.¨ u. eindeutig bestimmt. Man schreibt dann f¨ ur ν auch fµ. Definition 6.3. Sei (Ω, A) ein messbarer Raum sowie µ und ν Maße auf A. Das Maß ν heißt absolutstetig bez¨ uglich µ, falls ∀ A ∈ A : µ(A) = 0 ⇒ ν(A) = 0 gilt. Man schreibt dann ν  µ. 13 1 Maßtheoretische Grundlagen Satz 6.4. (Satz von Radon-Nikodym) Seien µ und ν Maße auf (Ω, A), und µ sei σ-endlich. Es gilt ν  µ genau dann, wenn ν ein Maß mit einer µ-Dichte f ist. Bemerkung 25. Man nennt die µ-f.¨ u. eindeutige Dichte f in Satz 6.4 auch die RadonNikodym-Ableitung von ν bez¨ uglich µ und schreibt f= dν . dµ Bemerkung 26. Die Existenz einer µ-Dichte f f¨ ur ν impliziert nach Satz 4.4 (d), dass ν  µ. Umgekehrt kann im Fall ν  µ die Existenz einer µ-Dichte grob wie folgt nachgewiesen werden: Im Spezialfall, dass µ und ν endliche Maße sind, betrachte man G := {g : Ω → [0, ∞] | g messbar und gµ ≤ ν}, R wobei gµ ≤ ν bedeutet, dass (gµ)(A) = A g dµ ≤ ν(A) f¨ ur alle A ∈ A gilt. Es gilt G 6= ∅, und man kann zeigen, dass aus g, h ∈ G folgt, dass sup{g, h} ∈ G. Damit und mit Satz 4.6 von der monotonen Konvergenz kann man dann zeigen, dass die Abbildung I : R G → [0, ∞), g 7→ g dµ ein Maximum, etwa in f ∈ G, annimmt. Es l¨asst sich schließlich nachweisen, dass f eine µ-Dichte von ν ist. Im allgemeinen Fall σ-endlicher Maße kann man Ω passend zerlegen, um die Aussage auf den Fall endlicher Maße zur¨ uckzuf¨ uhren. Satz 6.5. Gelte ν  µ mit µ-Dichte f. (a) Ist g : Ω → [0, ∞] messbare, numerische Funktion, so gilt Z Z g dν = gf dµ. (b) Ist g : Ω → R messbar, so gilt g ∈ L1 (Ω, A, ν) genau dann, wenn gf ∈ L1 (Ω, A, µ). In diesem Falle gilt Z Z g dν = 14 gf dµ. 2 Grundbegriffe der Wahrscheinlichkeitstheorie 2 Grundbegriffe der Wahrscheinlichkeitstheorie 7 Zufallsvariable und deren Verteilungen Im folgenden sei (Ω, A, P) stets ein W-Raum. Definition 7.1. Sei (Ω 0 , A 0 ) ein messbarer Raum. Eine A-A 0 -messbare Abbildung X : Ω → Ω 0 heißt Zufallsvariable. Falls (Ω 0 , A 0 ) = (R, B), so heißt X reellwertige Zufallsvariable. Falls (Ω 0 , A 0 ) = (Rd , Bd ), so heißt X d-dimensionaler Zufallsvektor. Bemerkung 27. Eine Abbildung X = (X1 , . . . , Xn ) : Ω → Rd ist ein d-dimensionaler Zufallsvektor genau dann, wenn X1 , . . . , Xd reellwertige Zufallsvariable sind. Definition 7.2. Sei X : (Ω, A, P) → (Ω 0 , A 0 ) Zufallsvariable. Dann wird durch PX : A 0 → [0, 1], A 0 7→ P(X−1 (A 0 )) die Verteilung von X definiert. Man schreibt auch X(P), PX oder L(X) f¨ ur PX . PX ist ein 0 0 W-Maß auf (Ω , A ). Definition 7.3. Sei f : (Ω, A, µ) → (Ω 0 , A 0 ) eine messbare Abbildung mit einem Maßraum (Ω, A, µ). Dann heißt f(µ) : A 0 → [0, ∞], A 0 7→ µ(f−1 (A 0 )) das Bildmaß von µ unter f. Es ist f(µ) ein Maß auf (Ω 0 , A 0 ). Satz 7.4. (Transformationssatz) Sei f : (Ω, A, µ) → (Ω 0 , A 0 ) messbar und ϕ : Ω 0 → R eine nichtnegative, messbare, numerische Funktion. Dann gilt Z Z ϕ df(µ) = ϕ ◦ f dµ. (8) Ist ϕ reellwertig, so ist ϕ genau dann f(µ)-integrierbar, wenn ϕ ◦ f µ-integrierbar ist. In diesem Fall gilt ebenfalls (8). Bemerkung 28. Ist speziell X : (Ω, A, P) → (Ω 0 , A 0 ) Zufallsvariable und ϕ wie in Satz 7.4, so hat (8) die Form Z Z ϕ dPX = ϕ(X) dP. Definition 7.5. Ist X eine reellwertige Zufallsvariable, so heißt FX : R → [0, 1], t 7→ P({X ≤ t}) = PX ((−∞, t]) Verteilungsfunktion von X. Definition 7.6. EineRmessbare Funktion f : R → R+ 0 heißt Wahrscheinlichkeitsdichte (kurz W-Dichte), falls f dλ = 1 gilt mit dem Lebesgue-Maß λ. Eine W-Dichte f definiert gem¨aß Definition 6.2 ein W-Maß auf (R, B): Z A 7→ µ(A) := f dλ, A ∈ B. A Hat die Verteilung von PX einer reellen Zufallsvariable X eine λ-Dichte f, so sagt man, X habe die Dichte f. 15 2 Grundbegriffe der Wahrscheinlichkeitstheorie Beispiel 2. Die Standardnormalverteilung auf (R, B) ist ein W-Maß mit W-Dichte   1 f(x) = √ exp −x2 /2 , 2π x ∈ R. Die Cauchy-Verteilung (zum Parameter c > 0) ist ein W-Maß auf (R, B) mit W-Dichte f(x) = π(c2 c , + x2 ) x ∈ R. R d Definition 7.7. Eine messbare Funktion f : Rd → R+ 0 heißt W-Dichte, falls f dλ = 1 d d mit dem d-dimensionalen Lebesgue-Maß λ . Die Dichte definiert ein W-Maß auf (R , Bd ) R verm¨oge A 7→ A f dλd , A ∈ Bd. Beispiel 3. Die Standardnormalverteilung auf (Rd , Bd ) ist ein W-Maß auf (Rd , Bd ) mit W-Dichte   f(x) = (2π)−n/2 exp −kxk2 /2 , x ∈ Rd , wobei f¨ ur x = (x1 , . . . , xn ) mit kxk = P x2i
1/2 die euklidische Norm bezeichnet wird. Definition 7.8. Eine reelle Zufallsvariable X hat eine diskrete Verteilung, falls PX ein diskretes Maß auf (R, B) ist, falls also X X PX = pn δxn mit xn ∈ R, pn ≥ 0 und pn = 1. n≥1 n≥1 8 Erwartungswerte Definition 8.1. Sei X eine reelle Zufallsvariable auf einem W-Raum (Ω, A, P). Ist X ≥ 0 oder X ∈ L1 (Ω, A, P), so heißt Z E [X] := E X := X dP der Erwartungswert von X. Korollar 8.2. Sei X eine Zufallsvariable in (Ω 0 , A 0 ) und ϕ : Ω 0 → R eine messbare Funktion. Ist ϕ ≥ 0, so gilt Z E [ϕ(X)] = ϕdPX . (9) Ist ϕ beliebig, so ist ϕ(X) ∈ L1 (Ω, A, P) genau dann, wenn ϕ ∈ L1 (Ω 0 , A 0 , PX ). In diesem Falle gilt ebenfalls (9). Bemerkung 29. Sei X eine (Ω 0 , A 0 )-wertige Zufallsvariable. 16 2 Grundbegriffe der Wahrscheinlichkeitstheorie (a) W¨ ahlen wir in Korollar 8.2 (Ω 0 , A 0 ) = (R, B) und f¨ ur ϕ die Identit¨at, so folgt, dass X ∈ L1 (Ω, A, P) genau dann, wenn Z |y| dPX (y) < ∞. Z In diesem Falle ist EX = (b) Ist PX diskret mit PX = P n≥1 pn δxn y dPX (y). mit xn ∈ R, pn ≥ 0 und Z |y| dPX (y) = X P n≥1 pn = 1, so ist pn |xn |. n≥1 P Es gilt also X ∈ L1 (Ω, A, P) genau dann, wenn n≥1 pn |xn | < ∞. In diesem Falle gilt X X EX = xn pn = xn P({X = xn }). n≥1 n≥1 (c) Besitzt PX eine Lebesgue-Dichte f, so gilt Z Z X ∈ L1 (Ω, A, P) ⇐⇒ |y| dPX (y) = |y|f(y) dλ(y) < ∞, und in diesem Falle Z E X = yf(y) dλ(y). Lemma 8.3. F¨ ur X, Y ∈ L1 (Ω, A, P) und a, b ∈ R ist aX + bY ∈ L1 (Ω, A, P), und es gilt die Linearit¨ at des Erwartungswerts: E [aX + bY] = aE [X] + bE [Y]. Definition 8.4. Man nennt Lp (Ω, A, P) := {X : Ω → R | X Zufallsvariable, E [|X|p ] < ∞}. den Raum der p-fach integrierbaren Zufallsvariablen, p > 0. Analog zu Bemerkung 22 ist Lp (Ω, A, P) := Lp (Ω, A, P)/ ∼ mit ∼ wie in Bemerkung 22. Lemma 8.5. F¨ ur 0 < p 0 < p gilt Lp (Ω, A, P) ⊂ Lp 0 (Ω, A, P). Satz 8.6. Es gelten folgende Ungleichungen: 17 2 Grundbegriffe der Wahrscheinlichkeitstheorie (a) (Markovsche Ungleichung): Sei X ∈ Lp (Ω, A, P) und p > 0. Dann gilt f¨ ur alle a>0: P(|X| ≥ a) ≤ a−p E [|X|p ]. (b) (Cauchy-Schwarz-Ungleichung): Sind X, Y ∈ L2 (Ω, A, P), so ist XY ∈ L1 (Ω, A, P), und es gilt E [|XY|] ≤ (E [X2 ]E [Y 2 ])1/2 . (c) (H¨ oldersche Ungleichung): Seien p, q ≥ 1 mit 1/p + 1/q = 1 sowie X ∈ Lp (Ω, A, P), Y ∈ Lq (Ω, A, P). Dann gilt XY ∈ L1 (Ω, A, P) und E [|XY|] ≤ (E [|X|p ])1/p (E [|Y|q ])1/q . Definition 8.7. Sei X ∈ L1 (Ω, A, P). Die Varianz von X ist definiert durch h i Var(X) := E (X − E [X])2 ∈ [0, ∞]. (a) Es gilt Var(X) = E [X2 ] − (E [X])2 . (b) Es gilt Var(X) < ∞ ⇐⇒ X ∈ L2 (Ω, A, P). (c) Es gilt Var(X) = 0 ⇐⇒ X = E [X] P-f.s. (d) (Chebychev Ungleichung): Die Markovsche Ungleichung angewandt auf X − E [X] mit p = 2 ergibt P(|X − E [X]| ≥ a) ≤ Var(X)/a2 . Definition 8.8. Sind X, Y ∈ L1 (Ω, A, P) mit XY ∈ L1 (Ω, A, P), so ist die Kovarianz zwischen X und Y definiert durch Cov(X, Y) : = E [XY] − E [X]E [Y] = E [(X − E [X])(Y − E [Y])]. Ist X = (X1 , . . . , Xd ) ein Zufallsvektor mit Xi ∈ L1 (Ω, A, P) und Xi Xj ∈ L1 (Ω, A, P) f¨ ur alle i, j ∈ {1, . . . , d}, so ist die Kovarianzmatrix Σ(X) = (σij (X))i,j=1,...,d definiert durch σij (X) = Cov(Xi , Xj ). Lemma 8.9. Die Kovarianzmatrix hat folgende Eigenschaften. (a) Sind X, Y ∈ L2 (Ω, A, P), so ist Cov(X, Y) definiert (d.h. XY ∈ L1 (Ω, A, P)). (b) Die Kovarianzmatrix ist symmetrisch und positiv semidefinit. 18 2 Grundbegriffe der Wahrscheinlichkeitstheorie 9 Konvergenz von Zufallsvariablen Im folgenden sei (Xn )n≥1 eine Folge reeller Zufallsvariable, die auf einem gemeinsamen W-Raum (Ω, A, P) definiert sind. Definition 9.1. Wir haben: (a) Eine Folge (Xn )n≥1 konvergiert P-fast sicher (kurz: P-f.s.) gegen eine Zufallsvariable X, falls P({ lim Xn = X}) = 1. n→∞ Notation: Xn → X P-f.s. (b) Eine Folge (Xn )n≥1 in Lp (Ω, A, P) konvergiert im p-ten Mittel, p > 0, gegen eine Zufallsvariable X ∈ Lp (Ω, A, P), falls lim E [|Xn − X|p ] = 0. n→∞ Lp Notation: Xn −→ X. (c) Eine Folge (Xn )n≥1 konvergiert in Wahrscheinlichkeit gegen eine Zufallsvariable X, falls ∀ ε > 0 : lim P(|Xn − X| ≥ ε) = 0. n→∞ P Notation: Xn −→ X. Lp Satz 9.2. Falls Xn → X P-f.s., so Xn −→ X. Falls Xn −→ X, so Xn −→ X. P P Lemma 9.3. Gelte Xn → X P-f.s. Falls |Xn | ≤ Y P-f.s. mit Y ∈ Lp (Ω, A, P), p > 0, so Lp gilt Xn −→ X. Satz 9.4. Falls Xn −→ X, so existiert eine Teilfolge (Xnk )k≥1 mit Xnk → X P-f.s. P Lemma 9.5. Sei (Xn )n≥1 eine Folge reeller Zufallsvariablen mit lim P(|Xn − Xm | ≥ ε) = 0 n,m→∞ P f¨ ur alle ε > 0. Dann existiert eine Zufallsvariable X mit Xn −→ X. 10 Stochastische Unabh¨ angigkeit Im folgenden sei (Ω, A, P) stets ein W-Raum. 19 2 Grundbegriffe der Wahrscheinlichkeitstheorie Definition 10.1. Teilsysteme E1 , . . . , En ⊂ A heißen (stochastisch) unabh¨ angig, falls f¨ ur alle 1 ≤ i1 < · · · < ik ≤ n und alle Aij ∈ Eij gilt:  P k \  Aij  = j=1 k Y P(Aij ). j=1 Ein System {Ei | i ∈ I} von Teilmengen Ei von A mit beliebiger Indexmenge I heißt unabh¨ angig, falls je endlich viele Ei unabh¨angig sind. Ereignisse Ai ∈ A, i ∈ I, heißen unabh¨ angig, falls das System {{Ai } | i ∈ I} unabh¨angig ist. Lemma 10.2. Seien Ei ⊂ A f¨ ur i ∈ I ∩-stabile Mengensysteme. Ist {Ei | i ∈ I} unabh¨angig, so ist {σ(Ei ) | i ∈ I} unabh¨angig. Korollar 10.3. Seien Ei ⊂ A f¨ ur i ∈ I unabh¨angig und ∩-stabil. Es sei (Ik )k∈K eine Familie von paarweise disjunkten Teilmengen von I. Dann ist die Familie  !  [ σ Ej k ∈ K j∈Ik unabh¨angig. Satz 10.4. (0 − 1 Gesetz von Kolmogorov): Sei (An )n≥1 eine Folge von unabh¨angigen Unter-σ-Algebren von A. (Unter-σ-Algebren bedeutet An ⊂ A und An σ-Algebra f¨ ur alle n ≥ 1). Dann gilt ! ∞ ∞ \ [ ∀ A ∈ T∞ := σ Ak : P(A) ∈ {0, 1}. n=1 k=n T∞ heißt die σ-Algebra der terminalen Ereignisse der Folge (An ) oder auch terminale σ-Algebra der Folge (An ). Lemma 10.5. Sei T ⊂ A ein Unter-σ-Algebra mit P(A) ∈ {0, 1} f¨ ur alle A ∈ T. Ist Z eine R-wertige Zufallsvariable, die T-B-messbar ist, so existiert ein c ∈ R mit P(Z = c) = 1, d.h. Z ist P-f.s. konstant. Definition 10.6. Eine Familie {Xi | i ∈ I} von Zufallsvariablen (die alle auf (Ω, A, P) definiert sind) heißt unabh¨ angig, falls {σ(Xi ) | i ∈ I} eine unabh¨angiges System ist. Lemma 10.7. Seien Xi : (Ω, A, P) → (Ωi , Ai ) Zufallsvariablen f¨ ur i ∈ I. (a) Ist {Ei | i ∈ I} eine unabh¨ angige Familie von Unter-σ-Algebren von A und Xi Ei -Ai -messbar f¨ ur i ∈ I, so ist {Xi | i ∈ I} unabh¨angig. (b) Ist {Xi | i ∈ I} unabh¨ angig und ϕi : Ωi → Ωi0 Ai -Ai0 -messbar (mit Ai0 σ-Algebra auf Ωi0 ), so ist {ϕi ◦ Xi | i ∈ I}, ebenfalls unabh¨angig. 20 2 Grundbegriffe der Wahrscheinlichkeitstheorie (c) Die Familie {Xi | i ∈ I} ist genau dann unabh¨angig, falls f¨ ur alle n ∈ N, paarweise verschiedenen i1 , . . . , in ∈ I und beliebigen A1 ∈ Ai1 , . . . , An ∈ Ain gilt: P(Xi1 ∈ A1 , . . . , Xin ∈ An ) = n Y P(Xij ∈ Aj ). j=1 Lemma 10.8. Eine Familie {Xi | i ∈ I} reellwertiger Zufallsvariable ist genau dann unabh¨angig, wenn f¨ ur alle n ∈ N, paarweise verschiedenen i1 , . . . , in ∈ I und alle t1 , . . . , tn ∈ R gilt: P(Xi1 ≤ t1 , . . . , Xin ≤ tn ) = n Y P(Xij ≤ tj ). j=1 Lemma 10.9. Seien X und Y reellwertige, unabh¨angige Zufallsvariable. Dann gilt: (a) Falls X, Y ≥ 0, so E [XY] = E [X]E [Y]. (b) Falls X, Y ∈ L1 (Ω, A, P), so XY ∈ L1 (Ω, A, P) und E [XY] = E [X]E [Y]. Satz 10.10. Seien Xi , i ∈ I, Zufallsvariable in (Ωi , Ai ). Die Familie {Xi | i ∈ I} ist unabh¨angig genau dann, wenn f¨ ur jedes n ∈ N und paarweise verschiedene i1 , . . . , in ∈ I gilt n O PXij . P(Xi ,...,Xin ) = 1 j=1 Bemerkung 30. Sind X und Y unabh¨angige, reellwertige Zufallsvariable, so erh¨alt man f¨ ur die Verteilungsfunktion der Summe X + Y: Z P(X + Y ≤ t) = FX (t − y) dPY (y), wobei FX die Verteilungsfunktion von X bezeichnet. Haben X und Y λ-Dichten f und g, so hat X + Y die λ-Dichte f ∗ g gegeben durch Z f ∗ g(x) = f(y)g(x − y) dλ(y), x ∈ R. f ∗ g heißt Faltung von f und g. 21