Verschiebungssatz (Statistik)

Der Verschiebungssatz ist eine Rechenregel für die Ermittlung der Summe quadratischer Abweichungen.

Erläuterung am Fall einer endlichen Folge von Zahlen

Der Verschiebungssatz wird zunächst am einfachsten Fall vorgeführt: Es ist eine Folge von reellen Zahlen x_i gegeben, beispielsweise eine Stichprobe. Es wird die Summe Q der quadratischen Abweichungen der Einzelwerte x_i vom Durchschnitt, dem arithmetischen Mittel dieser Werte gebildet:

$Q=\sum _{i=1}^{n}(x_{i}-{\bar {x}})^{2}\ ,$

wobei

${\bar {x}}={\frac {1}{n}}\sum _{i=1}^{n}x_{i}={\frac {x_{1}+x_{2}+\cdots +x_{n}}{n}}$

das arithmetische Mittel der Zahlen ist.

Soll beispielsweise Q von Hand berechnet werden, erweist es sich als sehr umständlich, bei jedem Wert x_i zunächst eine Differenz zu bilden und diese dann zu quadrieren. Hier kann man zur Vereinfachung der Berechnung den Verschiebungssatz anwenden. Es gilt nämlich, dass auch

$Q=\sum _{i=1}^{n}(x_{i}^{2}-2x_{i}{\bar {x}}+{\bar {x}}^{2})=\left(\sum _{i=1}^{n}x_{i}^{2}\right)-2{\bar {x}}\left(\sum _{i=1}^{n}x_{i}\right)+n{\bar {x}}^{2}=\left(\sum _{i=1}^{n}x_{i}^{2}\right)-n{\bar {x}}^{2}$

ist.

Beispiel

Im Rahmen der Qualitätssicherung wurden 5 Kaffeepäckchen gewogen. Man erhielt die Werte (in g) x_i

$505,500,495,505,510$

Das durchschnittliche Gewicht beträgt

${\bar {x}}={\frac {505+500+495+505+510}{5}}\,{\mbox{g}}=503\,{\mbox{g}}$

Es ist

$Q=(505-503)^{2}+(500-503)^{2}+(495-503)^{2}+(505-503)^{2}+(510-503)^{2}$

$\quad =4+9+64+4+49=130\,{\mbox{g}}^{2}\,.$

Mit dem Verschiebungssatz erhält man

$Q=505^{2}+500^{2}+495^{2}+505^{2}+510^{2}-5\cdot 503^{2}$

$\quad =255025+250000+245025+255025+260100+1265175-5\cdot 503^{2}$

$\quad =1265175-1265045=130\,{\mbox{g}}^{2}$

Man kann damit beispielsweise die Varianz der Stichprobe bestimmen:

$s^{2}={\frac {1}{n-1}}Q\ ,$

im Beispiel

$s^{2}={\frac {1}{5-1}}130\,{\mbox{g}}^{2}=32,5\,{\mbox{g}}^{2}\ .$

Anwendungen

Wahrscheinlichkeitsverteilungen

Varianz

Die Varianz als Erwartungswert

$\operatorname {E} (X-\operatorname {E} X)^{2}$

lässt sich mit dem Verschiebungssatz auch angeben als

$\operatorname {E} X^{2}-(\operatorname {E} X)^{2}\ .$

Man erhält bei einer diskreten Zufallsvariablen X mit den Ausprägungen X_j (j = 1, ..., m) und der dazugehörigen Wahrscheinlichkeit f(x_j) dann für

${\mbox{var}}\,X=\operatorname {E} (X-\operatorname {E} X)^{2}=\sum _{j}(x_{j}-\operatorname {E} X)^{2}\,f(x_{j})$

entsprechend zu oben

$\sum _{j}X_{j}^{2}\,f(x_{j})-(\operatorname {E} X)^{2}\ .$

Für eine stetige Zufallsvariable X mit den Ausprägungen Ω = {x| x ∈ R} und der dazugehörigen Dichtefunktion f(x) ist

${\mbox{var}}\,X=\operatorname {E} (X-\operatorname {E} X)^{2}=\int _{x}(x-\operatorname {E} X)^{2}\,f(x)\,dx\ .$

Man erhält hier mit dem Verschiebungssatz

${\mbox{var}}\,X=\operatorname {E} (X-\operatorname {E} X)^{2}=\int _{x}x^{2}f(x)\,dx-(\operatorname {E} X)^{2}\ .$

Kovarianz

Die Kovarianz zweier Zufallsvariablen X und Y lässt sich als E((X-EX)(Y-EY)) angeben.

Für diskreten Zufallsvariablen erhält man für

${\mbox{cov}}XY=\sum _{j}\sum _{k}(x_{j}-EX)(y_{k}-EY)\,f(x_{j};y_{k})$

entsprechend zu oben

$\sum _{j}\sum _{k}x_{j}\,y_{k}\,f(x_{j};y_{k})-EX\,EY\ ,$

mit f(x_j; y_k) als gemeinsamer Wahrscheinlichkeit, dass X = x_j und Y = y_k ist.

Bei stetigen Zufallsvariablen ergibt sich mit f(x;y) als gemeinsamer Dichtefunktion von X und Y an der Stelle x und y für die Kovarianz

${\mbox{cov}}XY=\int _{x}\int _{y}(x-EX)(y-EY)\,f(x;y)\,dy\,dx$

entsprechend zu oben

$\int _{x}\int _{y}xy\,f(x;y)-EX\,EY\,dy\,dx$

Stichproben

Für die Stichproben-Kovarianz zweier Merkmale x und y benötigt man

$Q=\sum _{i=1}^{n}\sum _{j=1}^{m}(x_{i}-{\bar {x}})(y_{j}-{\bar {y}})\ .$

Hier ergibt der Verschiebungssatz

$Q=\sum _{i=1}^{n}\sum _{j=1}^{m}(x_{i}y_{j}-x_{i}{\bar {y}}-{\bar {x}}y_{j}+{\bar {x}}{\bar {y}})=\left(\sum _{i=1}^{n}\sum _{j=1}^{m}x_{i}y_{j}\right)-nm{\bar {x}}{\bar {y}}\ .$

Die Stichproben-Kovarianz berechnet sich dann als

${\mbox{cov}}_{xy}={\frac {1}{n-1}}Q\ .$