Preview only show first 10 pages with watermark. For full document please download

Woche 4: Gemeinsame Verteilungen

   EMBED

Share

Transcript

Zusammenfassung: diskrete und stetige Verteilungen Woche 4: Gemeinsame Verteilungen diskret stetig Wahrscheinlichkeitsverteilung Wahrscheinlichkeitsdichte f (x) p(x) WBL 15/17, 11.05.2015 x Alain Hauser P(X = xk ) ∈ [0, 1], xk ∈ W x P(X = x) = 0, x ∈ R Berner Fachhochschule | Haute ´ ecole sp´ ecialis´ ee bernoise | Bern University of Applied Sciences Berner Fachhochschule, Technik und Informatik Zusammenfassung: diskrete und stetige Verteilungen Zusammenfassung: diskrete und stetige Verteilungen diskret stetig Kumulative Verteilungsfunktion Kumulative Verteilungsfunktion F (x) F (x) 1 1 diskret stetig Erwartungswert Erwartungswert Z ∞ E [X ] = xf (x) dx E [X ] = X xk P(X = xk ) −∞ k≥1 Varianz x F (x) = X k : xk ≤x x Z P(X = xk ) x F (x) = 2 / 17 X Var(X ) = (xk − E(X ))2 p(xk ) k≥1 f (u) du Varianz Z ∞ Var(X ) = (x − E(X ))2 f (x) dx −∞ −∞ Berner Fachhochschule | Haute ´ ecole sp´ ecialis´ ee bernoise | Bern University of Applied Sciences 3 / 17 Berner Fachhochschule | Haute ´ ecole sp´ ecialis´ ee bernoise | Bern University of Applied Sciences 4 / 17 Lernziele Sie k¨onnen. . . Teil III Gemeinsame Verteilungen Berner Fachhochschule | Haute ´ ecole sp´ ecialis´ ee bernoise | Bern University of Applied Sciences 5 / 17 Gemeinsame Verteilung I . . . die gemeinsame Verteilung von zwei Zufallsvariablen angeben. I . . . aus der gemeinsamen Verteilung zweier Zufallsvariablen deren Randverteilungen berechnen. I . . . feststellen, ob zwei Zufallsvariablen unabh¨angig sind. I . . . die Kovarianz und den Korrelationskoeffizient zweier Zufallsvariablen berechnen und interpretieren. I . . . Erwartungswert und Varianz einer Linearkombination zweier Zufallsvariablen berechnen. Berner Fachhochschule | Haute ´ ecole sp´ ecialis´ ee bernoise | Bern University of Applied Sciences 6 / 17 Diskrete gemeinsame Verteilungen Situation: I X : diskrete Zufallsvariable mit Werten in WX = {x1 , x2 , x3 , . . .} I Y : diskrete Zufallsvariable mit Werten in WY = {y1 , y2 , y3 , . . .} Bisher haben wir immer die Verteilung einer einzelnen Zufallsvariablen betrachtet. Definition I In der Praxis betrachten wir nat¨ urlich oft mehrere Gr¨ossen gleichzeitig Die gemeinsame kumulative Verteilungsfunktion von X und Y ist die Funktion I Zwei (oder mehr) Zufallsvariablen lassen sich mit Hilfe ihrer “gemeinsamen Verteilung” beschreiben I FX ,Y (x, y ) := P(X ≤ x, Y ≤ y ) . Die gemeinsame Wahrscheinlichkeitsverteilung von X und Y bezeichnet die Wahrscheinlichkeiten P(X = x, Y = y ), x ∈ WX , y ∈ WY . Berner Fachhochschule | Haute ´ ecole sp´ ecialis´ ee bernoise | Bern University of Applied Sciences 7 / 17 Berner Fachhochschule | Haute ´ ecole sp´ ecialis´ ee bernoise | Bern University of Applied Sciences 8 / 17 Beispiel: gemeinsame Wahrscheinlichkeitsverteilung Randverteilungen X und Y seien zwei diskrete Zufallsvariablen mit Wertebereichen WX und WY . I Eine gemeinsame Wahrscheinlichkeitsverteilung zweier Zufallsvariablen kann als Tabelle angegeben werden I Beispiel: parallelisierter Algorithmus l¨auft auf 2 Prozessorkernen Definition (Randverteilung) I Zufallsvariablen X und Y : diskretisierte Last der beiden Kerne (1 = tiefe Last, 2 = mittlere Last, 3 = hohe Last) Die Verteilung von X allein heisst Randverteilung; sie wird berechnet als X P(X = x) = P(X = x, Y = y ) f¨ ur beliebige x ∈ WX . X /Y 1 2 3 1 0.31 0.11 0.04 2 0.08 0.18 0.09 3 0.02 0.06 0.11 y ∈WY Definition Wie kann man die Verteilung in Worte fassen? Ist die Auslastung der Kerne z.B. gleichm¨assig? X und Y sind unabh¨ angig wenn P(X = x, Y = y ) = P(X = x) · P(Y = y ) gilt f¨ ur alle Werte x und y , die X und Y annehmen k¨onnen. Berner Fachhochschule | Haute ´ ecole sp´ ecialis´ ee bernoise | Bern University of Applied Sciences Berner Fachhochschule | Haute ´ ecole sp´ ecialis´ ee bernoise | Bern University of Applied Sciences 9 / 17 Bedingte Verteilungen Stetige gemeinsame Verteilungen I I X und Y seien zwei diskrete Zufallsvariablen mit gemeinsamer Verteilung P(X = x, Y = y ). Definition (Bedingte Wahrscheinlichkeitsverteilung) Sind X und Y zwei stetige Zufallsvariablen, besitzen sie eine gemeinsame Wahrscheinlichkeitsdichte fX ,Y (x, y ). Die Wahrscheinlichkeit, dass X in einem Intervall [a, b] und Y in einem Intervall [c, d] liegt, berechnet sich gem¨ass Z bZ d P(a ≤ X ≤ b, c ≤ Y ≤ d) = fX ,Y (x, y ) dy dx a I Die bedingte Wahrscheinlichkeitsverteilung von X gegeben Y = y ist P(X = x, Y = y ) P(X = x | Y = y ) = P(Y = y ) c Die Randdichte von X erh¨alt man durch Ausintegrieren u ¨ber Y: Z ∞ fX (x) = fX ,Y (x, y ) dy . −∞ I Berner Fachhochschule | Haute ´ ecole sp´ ecialis´ ee bernoise | Bern University of Applied Sciences 10 / 17 11 / 17 Wie bei diskreten Verteilungen kann man die bedingte Verteilung von X gegeben Y definieren; sie hat die Dichte fX ,Y (x, y ) fX |Y =y (x) = fY (y ) Berner Fachhochschule | Haute ´ ecole sp´ ecialis´ ee bernoise | Bern University of Applied Sciences 12 / 17 Kontur-Plot I X und Y seien zwei (diskrete oder stetige) Zufallsvariablen. Eine gemeinsame Dichte l¨asst sich mit einem Kontur-Plot visualisieren: eine Art “Plot von H¨ ohenkurven” der Dichte “H¨ohenkurve” hier: Linie aller Punkte, wo die gemeinsame Dichte einen bestimmten Wert hat Definition Die Kovarianz von X und Y ist definiert als h  i Cov(X , Y ) := E X − E(X ) Y − E(Y ) . 0.02 2 I Kovarianz und Korrelationskoeffizient Cov(X , Y ) Ihr Korrelationskoeffizient ist ρXY = p . Var(X ) Var(Y ) 1 0.06 0.1 y 0 4 0.1 6 0.1 −1 0.1 Eigenschaften: I Falls X und Y unabh¨ angig sind, ist Cov(X , Y ) = 0 und ρXY = 0 (die andere Richtung ist i.A. falsch!!) I −1 ≤ ρXY ≤ 1 I ρXY = ±1 falls Y deterministisch linear von X abh¨ angt (Beispiel: X = Temperatur in ◦ C , Y = Temperatur in ◦ F ) 2 −2 0.08 0.04 −2 −1 0 x 1 2 Berner Fachhochschule | Haute ´ ecole sp´ ecialis´ ee bernoise | Bern University of Applied Sciences 13 / 17 Korrelation: Beispiele ρXY = 0 2 3 −3 0. 2 3 8 1 0 Abh¨angigkeit impliziert Kausalit¨at −2 −3 −1 0 1 2 3 2 3 ρXY = 0.95 15 −3 −1 0.1 15 0. 5 0.0 −2 5 0.0 −2 −2 3 I 2 1 0 1 0 0.1 08 1 2 0.1 0. 0.04 0 1 2 2 0.02 −1 0 ρXY = 0.9 6 0.0 −3 −1 Unkorreliertheit impliziert Unabh¨angigkeit 0.04 1 1 ρXY = 0.7 I 0 0 0.02 −2 −2 −1 6 0.0 0.0 08 0.04 Verbreitete Fehlvorstellungen: 0.02 2 0. 0.1 0.06 1 0.04 0 0 1 06 −3 ρXY = 0.5 2 2 0. 14 / 17 Unabh¨angigkeit und Kausalit¨at ρXY = −0.5 0.02 Berner Fachhochschule | Haute ´ ecole sp´ ecialis´ ee bernoise | Bern University of Applied Sciences 0 1 2 3 −3 −1 0 1 (Quelle: https://xkcd.com/552/) Mehr dazu: Kapitel “deskriptive Statistik”, n¨achste Vorlesung. Berner Fachhochschule | Haute ´ ecole sp´ ecialis´ ee bernoise | Bern University of Applied Sciences 15 / 17 Berner Fachhochschule | Haute ´ ecole sp´ ecialis´ ee bernoise | Bern University of Applied Sciences 16 / 17 Rechenregeln f¨ur Erwartungswert und Varianz X und Y seien (diskrete oder stetige) Zufallsvariablen, a ∈ R eine reelle Zahl. I E(X + Y ) = E(X ) + E(Y ) I Falls X und Y unabh¨angig sind, gilt E(X · Y ) = E(X ) · E(Y ) I E(a · X ) = a · E(X ) I Var(X + Y ) = Var(X ) + Var(Y ) + 2 Cov(X , Y ) I Folge: falls X und Y unabh¨angig sind, gilt Var(X + Y ) = Var(X ) + Var(Y ) I Var(a · X ) = a2 · Var(X ) Berner Fachhochschule | Haute ´ ecole sp´ ecialis´ ee bernoise | Bern University of Applied Sciences 17 / 17