Erwartungstreue

Erwartungstreue (selten Unverzerrtheit, engl. unbiasedness) ist ein Begriff der mathematischen Statistik, mit dem ein Aspekt der Qualität einer Schätzfunktion (kurz: eines Schätzers) bemessen werden kann. Ist ein Schätzer nicht erwartungstreu, d.h. hat er eine Abweichung von seinem Erwartungswert, spricht man davon, dass der Schätzer verzerrt (engl. biased) ist. Die Abweichung von diesem Mittel nennt man entsprechend Verzerrung (engl. bias).

Erwartungstreue zählt neben Konsistenz, Suffizienz und (asymptotischer) Effizienz zu den vier gebräuchlichen Kriterien für die Qualität von Schätzern.

Definition

Es sei $X\;$ eine Zufallsvariable, deren Verteilungsfunktion aus einer parametrischen Familie $P_{\vartheta }\;$ mit $\vartheta \in \Theta \;$ stammt. Ein Schätzer $g(X)\;$ heißt erwartungstreu für einen Parameter $\vartheta$ bzw. allgemeiner für ein Funktional $\gamma (\vartheta )$, falls $E_{\vartheta }[g(X)]=\gamma (\vartheta )$ für alle Fehler beim Parsen (SVG (MathML kann über ein Browser-Plugin aktiviert werden): Ungültige Antwort („Math extension cannot connect to Restbase.“) von Server „http://localhost:6011/de.wikipedia.org/v1/“:): {\displaystyle \vartheta \in \Theta\;} gilt. Die anschauliche Interpretation ist, dass man mit der Wahl von $g(X)\;$ als Schätzer im Mittel richtig liegt, da dessen Erwartungswert exakt dem gesuchten Parameter entspricht.

Hintergründe

Es ergibt sich aus der Definition, dass „gute“ Schätzer zumindest näherungsweise erwartungstreu sein, sich also dadurch auszeichnen sollen, dass sie im Mittel nah am zu schätzenden Wert liegen. Üblicherweise ist Erwartungstreue jedoch nicht das einzige wichtige Kriterium für die Qualität eines Schätzers; so sollte er beispielsweise auch eine kleine Varianz haben, also möglichst gering um den zu schätzenden Wert schwanken. Zusammengefasst ergibt sich das klassische Kriterium einer minimalen mittleren quadratischen Abweichung für optimale Schätzer.

In der Praxis kann eine Abweichung von Erwartungstreue zwei Ursachen haben:

• einen systematischen Fehler, beispielsweise ein nicht-zufälliger Messfehler in der Apparatur, oder
• einen zufälligen Fehler, dessen Erwartungswert ungleich 0 ist.

Zufällige Fehler können tolerabel sein, wenn sie dazu beitragen, dass der Schätzer eine kleinere minimale quadratische Abweichung als ein unverzerrter besitzt.

Asymptotische Erwartungstreue

In der Regel ist es nicht von Bedeutung, dass ein Schätzer erwartungstreu ist. Die meisten Resultate der mathematischen Statistik gelten erst asymptotisch, also wenn der Stichprobenumfang ins Unendliche wächst. Daher ist es in der Regel ausreichend, wenn Erwartungstreue im Grenzwert gilt, d. h. für eine Folge von Schätzern $g_{n}\;$ die Konvergenzaussage $\lim _{n\rightarrow \infty }E_{\vartheta }[g_{n}(X)]=\gamma (\vartheta )$ gilt.

Beispiel

Ein typisches Beispiel sind Schätzer für die Parameter von Normalverteilungen. Man betrachtet in diesem Fall die parametrische Familie

$P_{\vartheta },\;\vartheta \in \Theta$ mit $\vartheta =(\mu ,\sigma ^{2})\;$ und $\;\Theta =\mathbb {R} \times \mathbb {R} ^{+}$,

wobei jedes $_{\vartheta }\;$ einer Wahrscheinlichkeitsverteilung entspricht, die normalverteilt mit Erwartungswert $\mu \;$ und Varianz $\sigma ^{2}\;$ ist. Üblicherweise sind Beobachtungen $X_{1},\ldots ,X_{n}\;$ gegeben, die stochastisch unabhängig sind und jeweils die Verteilung $P_{\vartheta }\;$ besitzen.

Schätzung des Mittelwerts einer Normalverteilung

Ein erwartungstreuer Schätzer für $\mu =\gamma _{1}(\vartheta )=c_{1}^{T}\vartheta \;$ mit $c_{1}=(1,0)^{T}\;$ ist beispielsweise der empirische Mittelwert ${\bar {X_{n}}}={\frac {1}{n}}\sum _{i=1}^{n}X_{i}\;$, da $E[{\bar {X_{n}}}]=\mu \;$ gilt.

Schätzung der Varianz einer Normalverteilung

Der Maximum-Likelihood-Schätzer $s_{n}^{2}={\frac {1}{n}}\sum _{i=1}^{n}(X_{i}-{\bar {X_{n}}})^{2}$ ist dagegen nicht erwartungstreu für $\sigma ^{2}=\gamma _{2}(\vartheta )=c_{2}^{T}\vartheta \;$ mit $c_{2}=(0,1)^{T}\;$, da sich $E[s_{n}^{2}]={\frac {n-1}{n}}\sigma ^{2}\;$ zeigen lässt. Der Bias beträgt also $E[s_{n}^{2}]-\sigma ^{2}=-{\frac {1}{n}}\sigma ^{2}.\;$ Da dieser asymptotisch, also für $n\rightarrow \infty \;$, verschwindet, ist der Schätzer allerdings asymptotisch erwartungstreu.

Darüber hinaus kann man in diesem Fall den Erwartungswert der Verzerrung genau angeben und folglich die Verzerrung korrigieren, in dem man mit $n/(n-1)$ multipliziert (sog. Besselsche Korrektur, siehe korrigierte Stichprobenvarianz), und erhält so einen Schätzer für die Varianz, der auch für kleine Stichproben erwartungstreu ist.

Im Allgemeinen is es jedoch nicht möglich, die erwartete Verzerrung exakt zu bestimmen und somit vollständig zu korrigieren. Es gibt aber Verfahren, um die Verzerrung eines asymptotisch erwartungstreuen Schätzers für endliche Stichproben zumindest zu verringern, zum Beispiel das sog. Jackknife.

UMVU-Schätzer

Eine wichtige Anwendung erwartungstreuer Schätzer besteht darin, dass mit ihrer Hilfe gleichmäßig beste Schätzer konstruiert werden können. Das Ziel dabei ist es, solche Schätzer zu finden, die das Risiko, häufig gesetzt als die mittlere quadratische Abweichung, über eine ganze Klasse von Schätzern minimieren. In den allermeisten Fällen gibt es keine Schätzer, die über die gesamte Klasse von Schätzern optimal sind, so dass man sich auf Teilklassen beschränken muss. Eine typische Teilklasse sind dabei erwartungstreue Schätzer, wobei man zeigen kann, dass genau diese Schätzer optimal sind, die als Funktion einer suffizienten und vollständigen Statistik dargestellt werden können.

Beste erwartungstreue Schätzer werden auch UMVU-Schätzer genannt, für uniformly minimum variance unbiased. Dies lässt sich darauf zurückzuführen, dass das Risiko eines Schätzers gleich der Summe aus Bias und Varianz ist. Ein erwartungstreuer Schätzer mit minimaler Varianz ist daher gerade ein bester erwartungstreuer Schätzer.

Literatur

• H. Witting: „Mathematische Statistik, Bd. 1. Parametrische Verfahren bei festem Stichprobenumfang“. Vieweg+Teubner, Stuttgart 1985, ISBN 978-3-519-02026-4.
• M. Hardy: „An Illuminating Counterexample“