U04.4 – Maximum-Likelihood und Erwartungstreue

Es liegt das folgende statistische Modell vor: Stichprobenraum $ \Psi = \mathbb{N}_0 = \left\{ {0,1,2, \ldots } \right\} $ ,
Parameterbereich $ \Theta = \left\langle {0,1} \right\rangle = \left] {0,1} \right[ $ , für $ \vartheta \in \Theta $ sei $ w_\vartheta $ die durch die W-Funktion

$ f_\vartheta \left( x \right) = \left( {x+1} \right)\left( {1-\vartheta } \right)^x \vartheta ^2 \quad ,\quad x \in \mathbb{N}_0 $

bestimmte Wahrscheinlichkeitsverteilung auf $ \Psi $ .

a) Weisen Sie nach, das $ g:\Psi \to \mathbb{R} $ gemäß $ g\left( x \right): = \frac{2} {{2+x}},\quad x \in \Psi $ die Maximum-Likelihood-Schätzfunktion für den unbekannten Parameter $ \vartheta $ ist.

b) Zeigen Sie, das $ h:\Psi \to \mathbb{R} $ gemäß $ h\left( x \right): = \frac{1} {{1+x}},\quad x \in \Psi $ eine erwartungstreue
Schätzfunktion für $ \vartheta $ ist.

c) Zeigen Sie, dass h(0) = g(0) und h(x) < g(x) für alle x = 1, 2, 3, ..., und schließen Sie
daraus, dass $ E_\vartheta \left( g \right) > \vartheta $ für alle $ \vartheta \in \Theta $ ist.

Hinweis zu a): Log-Likelihood maximieren!

Lösung

a)

$ g\left( x \right): = \frac{2} {{2+x}} $

$ \mathcal{L}\left( {x,\vartheta } \right): = \ln L\left( {x,\vartheta } \right) = \ln f_\vartheta \left( x \right) = \ln \left[ {\left( {x+1} \right)\left( {1-\vartheta } \right)^x \vartheta ^2 } \right] $

$ \Rightarrow \quad \mathcal{L}\left( {x,\vartheta } \right) = \ln \left( {x+1} \right)+x\ln \left( {1-\vartheta } \right)+2\ln \vartheta $

Da wir die Wahrscheinlichkeit $ \vartheta $ maximieren (also das Maximum finden) wollen bilden wir die Ableitung nach $ \vartheta $ und setzen diese = 0.

$ \mathcal{L}\:^\prime \left( {x,\vartheta } \right) = -\frac{x} {{1-\vartheta }}+\frac{2} {\vartheta } = 0 $

$ \frac{x} {{1-\vartheta }} = \frac{2} {\vartheta } $

$ \vartheta x = 2-2\vartheta $

$ \vartheta \left( {x+2} \right) = 2 $

$ \vartheta = \frac{2} {{x+2}} $

$ \Rightarrow \quad \frac{2} {{x+2}} = g\left( x \right) = Maximum-Likelihood $

b)

$ h\left( x \right): = \frac{1} {{1+x}},\quad x \in \Psi $

Erinnerung:

Ein Schätzer 
g(X) heißt erwartungstreu für ein Funktional $ \gamma (\vartheta ) $ , wenn gilt:

$ E_\vartheta [g(X)] = \gamma (\vartheta )\quad \forall \vartheta \in \Theta $

Erinnerung:
Für den Erwartungswert im diskreten Fall gilt: $ E\left( {g\left( x \right)} \right) = \sum\limits_{x \in T} {g\left( x \right)f\left( x \right)} $

$ E_\vartheta [h(x)] = \sum\limits_{x \in \Psi } {h\left( x \right)f\left( x \right)} = \sum\limits_{x = 0}^\infty {\frac{1} {{1+x}}\left( {x+1} \right)\left( {1-\vartheta } \right)^x \vartheta ^2 } = \vartheta ^2 \sum\limits_{x = 0}^\infty {\left( {1-\vartheta } \right)^x } $

wegen $ \vartheta \in \Theta = \left\langle {0,1} \right\rangle $ handelt es sich hierbei um eine geometrische Reihe

Erinnerung:

Die geometrische Reihe $ \sum\nolimits_n {x^n } $ konvergiert auf ]-1,1[ bekanntlich punktweise gegen $ \frac{1} {{1-x}} $ .

Damit gilt also:

$ E_\vartheta [h(x)] = \vartheta ^2 \sum\limits_{x = 0}^\infty {\left( {1-\vartheta } \right)^x } = \vartheta ^2 \frac{1} {{1-\left( {1-\vartheta } \right)}} = \vartheta $