Normalverteilung

Die Gauß-Verteilung (nach Carl Friedrich Gauß) ist der wichtigste Typ kontinuierlicher Wahrscheinlichkeitsverteilungen. Ihre Wahrscheinlichkeitsdichte wird auch Gauß-Funktion, Gauß-Kurve, Gauß-Glocke oder Glockenkurve genannt.

Datei:Normal density.png

Dichten von normalverteilten Zufallsgrößen

Die besondere Bedeutung der Normalverteilung beruht unter anderem auf dem zentralen Grenzwertsatz, der besagt, dass eine Summe von $n$ unabhängigen, identisch verteilten Zufallsvariablen in der Grenze $n\rightarrow \infty$ normalverteilt ist.

Viele natur-, wirtschafts- und ingenieurswissenschaftliche Vorgänge lassen sich durch die Normalverteilung entweder exakt oder wenigstens in sehr guter Näherung beschreiben (vor allem Prozesse, die in mehreren Faktoren unabhängig voneinander in verschiedene Richtungen wirken).

Die Normalverteilung ist gegeben durch die Wahrscheinlichkeitsdichte

$f(x)={\frac {1}{\sigma {\sqrt {2\pi }}}}\,e^{-{\frac {1}{2}}\left({\frac {x-\mu }{\sigma }}\right)^{2}}$,

wobei $\sigma$ die Standardabweichung und $\mu$ der Erwartungswert ist.

Definition

Die stetige Zufallsvariable $X$ mit der Wahrscheinlichkeitsdichte

$f(x)={\frac {1}{\sigma {\sqrt {2\pi }}}}\,e^{-{\frac {1}{2}}\left({\frac {x-\mu }{\sigma }}\right)^{2}}$,

heißt $\mu$-$\sigma$-normalverteilt, wobei $\mu$ der Erwartungswert $E(X)$ und $\sigma$ die Standardabweichung ist. In der Literatur wird auch die Bezeichnung $(\mu ,\sigma ^{2})$-normalverteilt oder ähnliches verwendet (das Quadrat ² wird dabei immer explizit geschrieben).

Anmerkung: Die Varianz $V(X)=\sigma ^{2}$, daher ist also $\sigma ={\sqrt {V(X)}}$ und $\mu =E(X)$.

Somit ist die Verteilungsfunktion der Normalverteilung gegeben durch

$F(x)={\frac {1}{\sigma \cdot {\sqrt {2\pi }}}}\cdot \int _{-\infty }^{x}e^{-{\frac {1}{2}}\cdot \left({\frac {t-\mu }{\sigma }}\right)^{2}}\mathrm {d} t$

Die Wahrscheinlichkeitsdichte $f(t)$ besitzt als Graphen die Gauß'sche Glockenkurve, welche symmetrisch zum Wert von $\mu$ ist und deren Höhe und Breite von $\sigma$ abhängt. Wichtig ist, dass die gesamte Fläche unter der Kurve gleich 1 ist, also der Wahrscheinlichkeit eines sicheren Ereignisses entspricht. Somit folgt, dass wenn zwei Gauß'sche Glockenkurfen dasselbe $\mu$, aber unterschiedliche $\sigma$ Werte haben, jene Kurve mit dem größeren $\sigma$ breiter und niedriger ist (da ja beide zugehörigen Flächen jeweils den Wert von 1 haben und nur die Standardabweichung (oder " Streuung") höher ist). Zwei Glockenkurven mit dem gleichen $\sigma$, aber unterschiedlichen $\mu$ haben gleich aussehende Graphen, die jedoch auf auf der x-Achse zueinander um die Differenz der $\mu$ Werte zueinander verschoben sind.

Da sich das Integral der Verteilungsfunktion nicht auf eine elementare Stammfunktion zurückführen lässt, wird für die Berechnung meist auf Tabellen zurückgegriffen (siehe dazu die Tabelle der Verteilungsfunktion der Standardnormalverteilung). Diese gelten aber nicht für beliebige $\mu$ und $\sigma$ Werte, sondern nur für die standardisierte Form der Gauß'schen Verteilung, bei der jeweils $\mu =0$ und $\sigma =1$ ist (man spricht auch von einer 0-1-Normalverteilung oder Standardnormalverteilung).

Die Tabellen sind also für die folgende Wahrscheinlichkeitsfunktion ausgelegt:

$\Phi (z)={\frac {1}{\sqrt {2\pi }}}\cdot \int _{-\infty }^{z}e^{-{\frac {1}{2}}t^{2}}\mathrm {d} t$

(weil $\mu =0$ und $\sigma =1$)

Ist nun eine beliebige $\mu$-$\sigma$-Verteilung gegeben, so muss diese nur in eine Standardnormalverteilung transformiert werden.

Ist eine Zufallsvariable $X$ normalverteilt mit dem Erwartungswert $\mu$ und der Varianz $\sigma ^{2}$, so schreibt man $X\sim {\mathcal {N}}(\mu ,\sigma ^{2})$.

Transformation zur Standardnormalverteilung

Ist eine Normalverteilung mit beliebigen $\mu$ und $\sigma$ gegeben, so kann diese durch eine Transformation auf eine 0-1-Normalverteilung zurückgeführt werden. Dazu wird die Verteilungsfunktion $F(x)$ der allgemeinen Normalverteilung mit $u={\frac {t-\mu }{\sigma }}$ substituiert und die Integralgrenzen werden angepasst:

Nebenrechnung für die Substitution

$u={\frac {t-\mu }{\sigma }}$

${\frac {\mathrm {d} u}{\mathrm {d} t}}={\frac {\mathrm {d} }{\mathrm {d} t}}\left({\frac {t-\mu }{\sigma }}\right)={\frac {1}{\sigma }}$

$\Rightarrow \mathrm {d} t=\mathrm {d} u\cdot \sigma$

$F(x)={\frac {1}{\sigma \cdot {\sqrt {2\pi }}}}\cdot \int _{-\infty }^{x}e^{-{\frac {1}{2}}\cdot \left({\frac {t-\mu }{\sigma }}\right)^{2}}\mathrm {d} t=$

$={\frac {1}{\sigma \cdot {\sqrt {2\pi }}}}\cdot \int _{\frac {-\infty -\mu }{\sigma }}^{\frac {x-\mu }{\sigma }}e^{-{\frac {1}{2}}u^{2}}\mathrm {d} u\cdot \sigma$

$={\frac {1}{\sqrt {2\pi }}}\cdot \int _{-\infty }^{\frac {x-\mu }{\sigma }}e^{-{\frac {1}{2}}u^{2}}\mathrm {d} u$

$=\Phi \left({\frac {x-\mu }{\sigma }}\right)$

Wird nun $z:={\frac {x-\mu }{\sigma }}$ definiert und $u$ durch $t$ ersetzt, so erhält man die Verteilungsfunktion der Standardnormalverteilung: $\Phi (z)={\frac {1}{\sqrt {2\pi }}}\cdot \int _{-\infty }^{z}e^{-{\frac {1}{2}}t^{2}}\mathrm {d} t$

Anmerkung: Geometrisch betrachtet entspricht die durchgeführte Substition einer flächentreuen Transformation der Glockenkurve von $N(\mu ;\sigma )$ zur Glockenkurve von $N(0;1)$.

Standardnormalverteilung

Ist der Erwartungswert 0 und die Standardabweichung 1, so spricht man von einer standardnormalverteilten Variable. Eine normalverteilte Zufallsvariable $X$ mit beliebigen Parametern kann mittels der Transformation

$Z={\frac {X-\mu }{\sigma }}$

in eine standardnormalverteilte Variable $Z$ überführt werden.

So sieht die Dichtefunktion einer Standardnormalverteilung aus. Angegeben sind die Intervalle im Abstand 1, 2 und 3 Standardabweichungen vom Erwartungswert 0, die rund 68%, 95,5% und 99,7% der Fläche unter der Glockenkurve umfassen. Die gleichen Prozentsätze gelten für alle Normalverteilungen in Bezug auf die entsprechenden Erwartungswerte und Standardabweichungen.

Die Normalverteilung ist eine Grenzverteilung, die nicht direkt beobachtet werden kann. Die Annäherung verläuft aber mit wachsendem n sehr schnell, so dass schon die Verteilung einer Summe von 30 oder 40 unabhängigen, identisch verteilten Zufallsgrößen einer Normalverteilung recht ähnlich ist.

Die Glockenkurve schmückte neben dem Portrait von Carl Friedrich Gauß von 1989 bis 2001 die 10-DM-Banknote der Bundesrepublik Deutschland.

Zur Arbeit mit Normalverteilungen

Ist eine Zufallsvariable als normalverteilt mit $\mu$ als Erwartungswert und $\sigma$ als Standardabweichung anzunehmen, kann sie durch die o.a. Transformation ...

$Z={\frac {X-\mu }{\sigma }}$

... in eine Standardnormalverteilung transformiert werden. Die Werte der Standardnormalverteilung sind in zahlreichen Lehrbüchern tabelliert und lassen sich auch durch Tabellenkalkulationen berechnen; durch Ablesung der Werte der Standardnormalverteilung und Rücktransformation der Ergebnisse kann damit jede normalverteilte Zufallsvariable analysiert werden.

Simulation normalverteilter Zufallsvariablen

Box-Muller-Methode

Nach der Box-Muller-Methode lässt sich eine standardnormalverteilte Zufallsvariable $X$ aus zwei gleichverteilten Zufallsvariablen $u_{1},u_{2}\sim U(0,1)$, sogenannten Standardzufallszahlen, simulieren:

$X={\sqrt {(-2\log u_{1})}}\;cos(2\pi u_{2})$

Polar-Methode

Die Polar-Methode von Marsaglia ist auf einem Computer noch schneller, da sie nur einen Logarithmus benutzt:

1. Generiere zwei gleichverteilte Zufallsvariablen $u_{1},u_{2}=U(0,1)$
2. Berechne $v=(2u_{1}-1)^{2}+(2u_{2}-1)^{2}$. Falls $v\geq 1$ wiederhole 1.
3. $x=(2u_{1}-1)(-2\log v/v)^{1/2}$

Durch lineare Transformation lassen sich hieraus auch beliebige normalverteilte Zufallszahlen generieren: Ist die Zufallsvariable X $N(0,1)$-verteilt, so ist aX+b schließlich $N(b,a^{2})$-verteilt.

Zwölferregel

Aus dem zentralen Grenzwertsatz folgt, dass sich die Summe unabhängiger gleichverteilter Zufallszahlen einer Normalverteilung nähert.

Ein Spezialfall ist die Zwölferregel, die sich auf die Summe von 12 Zufallszahlen aus dem Intervall [0,1] beschränkt und bereits zu passablen Verteilungen führt.

Besondere Eigenschaften

Die Normalverteilung ist invariant gegenüber Faltung, d.h. die Faltung einer Gaußkurve der Halbwertsbreite $\Gamma _{a}$ mit einer Gaußkurve der Halbwertsbreite $\Gamma _{b}$ ergibt wieder eine Gaußkurve mit der Halbwertsbreite $\Gamma _{c}={\sqrt {\Gamma _{a}^{2}+\Gamma _{b}^{2}}}$

Die Normalverteilung ist ein Fixpunkt der Fourier-Transformation, d.h. die Fourier-Transformierte einer Gaußkurve ist wieder eine Gaußkurve. Das Produkt der Standardabweichungen dieser korrespondierenden Gaußkurven ist konstant, es gilt die Heisenbergsche Unschärferelation.

Die Normalverteilung hat unter den Verteilungen mit gleicher Varianz die größte Entropie.

Mehrdimensionale Normalverteilung

Dichte der zweidimensionalen Standardnormalverteilung

Das Wahrscheinlichkeitsmaß $N^{n}(0,1)$ auf $\mathbb {R} ^{n}$, das durch die Dichte

$f:\mathbb {R} ^{n}\to \mathbb {R} ,\ (x_{1},\ldots ,x_{n})\mapsto {1 \over {\sqrt {(2\pi )^{n}}}}\exp {\bigg (}-{1 \over 2}\sum _{i=1}^{n}x_{i}^{2}{\bigg )}$

definiert wird, heißt Standardnormalverteilung der Dimension $n$.

Ein Wahrscheinlichkeitsmaß $P$ auf $\mathbb {R} ^{n}$ heißt $n$-dimensionale Normalverteilung, wenn eine Matrix $A\in \mathbb {R} ^{n\times n}$ und ein Vektor $b\in \mathbb {R} ^{n}$ existieren, so dass mit der affinen Abbildung $u:\mathbb {R} ^{n}\to \mathbb {R} ^{n},\ x\mapsto Ax+b$ gilt: $P=N^{n}(0,1)u^{-1}$.

Ein Zufallsvektor $X=(X_{1},\ldots ,X_{n})$ ist standardnormalverteilt auf $\mathbb {R} ^{n}$ genau dann, wenn $X_{1},\ldots ,X_{n}$ standardnormalverteilt und stochastisch unabhängig sind.

Die multivariate Normalverteilung ist die einzige rotationssymmetrische multivariate Verteilung, deren Komponenten stochastisch unabhängig sind.

Siehe auch

Multivariate Verteilung, Wahrscheinlichkeitspapier, Statistik, Inversionsmethode

Weblinks

• http://www.wiso.uni-koeln.de/ASPSamp/eswf/html/glossar/node132.html
• http://barolo.ipc.uni-tuebingen.de/pharma/2/2.2/standard_verteil.html
• http://www.madeasy.de/2/gauss.htm
  • Möglichst verständlich mit Programmcode in Visual Basic