Maximum-Likelihood-Methode

Die Maximum-Likelihood-Methode (von engl. maximale Wahrscheinlichkeit) bezeichnet in der Statistik ein Schätzverfahren.

Sie ist aufgrund ihrer Vorteile gegenüber anderen Schätzverfahren (OLS- und Momentenmethode) das wichtigste Prinzip zur Gewinnung von Schätzfunktionen für die Parameter einer Verteilung. Bei dieser Methode wird von einer Zufallsvariablen X ausgegangen, deren Dichte- bzw. Wahrscheinlichkeitsfunktion $f_{X}(x)$ von einem Parameter q abhängt. Liegt eine einfache Zufallsstichprobe mit n unabhängigen und identisch verteilten Realisationen vor, so lässt sich die Dichtefunktion bzw. Wahrscheinlichkeitsfunktion wie folgt faktorisieren:

$f(x_{1},x_{2},...,x_{n};q)=\prod _{i=1}^{n}{f_{X}}_{i}(x_{i};q)$

Statt nun für einen festen Parameter q die Dichte für beliebige Werte $x_{1},\ldots ,x_{n}$ auszuwerten, kann umgekehrt für beobachtete und somit feste Realisationen $x_{1},\ldots ,x_{n}$ die Dichte als Funktion von q betrachtet werden. Dies führt zur Likelihood-Funktion

$L(q)=\prod _{i=1}^{n}{f_{X}}_{i}(x_{i};q)$

Wird diese Funktion in Abhängigkeit von q maximiert, so erhält man die Maximum-Likelihood-Schätzung für q. Es wird also der Wert von q gesucht, bei dem die Stichprobenwerte $x_{1},\ldots ,x_{n}$ die größte Dichte- bzw. Wahrscheinlichkeitsfunktion haben. Der Maximum-Likelihood-Schätzer ist in diesem Sinne der plausibelste Parameterwert für die Realisierungen $x_{1},\ldots ,x_{n}$ der Zufallsvariablen X. Die Maximierung dieser Funktion erfolgt, in dem man die 1. Ableitung nach q bildet und diese dann Null setzt. Da dieses bei Dichtefunktionen mit komplexen Exponentenausdrücken sehr aufwendig werden kann, wird häufig die logarithmierte Likelihood-Funktion verwendet:

$l(q)=\sum _{k=1}^{n}ln(f_{X_{i}}(x_{i};q))$

Beispiel

Ein Urne enthält N=8 Kugeln, die entweder rot oder schwarz sind. Die genaue Anzahl M der der roten Kugeln ist nicht bekannt. Es werden n=4 Kugeln nacheinander gezogen und wieder zurück in die Urne gelegt. Beobachtet werden $x_{1}=1$ (erste Kugel ist rot), $x_{2}=1$ (zweite Kugel ist rot), $x_{3}=0$ (dritte Kugel ist schwarz) und $x_{4}=1$ (vierte Kugel ist rot).

Gesucht ist nun die nach dem Maximum-Likelihood-Prinzip plausibelste Zusammensetzung der Kugeln in der Urne.

Die möglichen Parameter der Wahrscheinlichkeitsfunktion $p={\frac {M}{N}}$ sind $0,{\frac {1}{8}},{\frac {2}{8}},\dots ,{\frac {7}{8}},1$. Hier entspricht der Erfolgswahrscheinlichkeit p einer Ziehung gerade dem Parameter q der Likelihood-Funktion.

Die zugehörige Likelihood-Funktion ist

$L(p)=p^{3}\,(1-p)$

Nun können wir die Funktionswerte berechnet

p	0	1/8	2/8	3/8	4/8	5/8	6/8	7/8	1
L(p)	0	0.002	0.012	0.033	0.063	0.092	0.105	0.084	0

Damit ist p=6/8=0.75 plausibelste Parameterwert für die Realisation 3 rote Kugeln bei 4 Ziehungen und somit der Schätzwert für p nach der Maximum-Likelihood-Methode, d.h. 0.75 * 8 = 6 rote Kugeln müssten in der Urne sein.

Maximum-Likelihood-Schätzung

Als Maximum-Likelihood-Schätzung bezeichnet man in der Statistik eine Parameterschätzung, die nach der Maximum-Likelihood-Methode berechnet wurde.

Literatur

• Schwarze, Jochen: Grundlagen der Statistik - Band 2: Wahrscheinlichkeitsrechnung und induktive Statistik, 6. Auflage, Berlin; Herne: Verlag Neue Wirtschaftsbriefe, 1997