Une image vaut parfois mille mots, alors laissez-moi partager avec vous. Vous trouverez ci-dessous une illustration de Bradley Efron (1977) Papier Stein Paradox dans des statistiques. Comme vous pouvez le constater, l’estimateur Stein déplace-t-il chacune des valeurs plus proches de la moyenne élevée. Cela rend les valeurs plus grandes que la grande moyenne des petits et les plus petites valeurs que la grande moyenne, plus grande. En contraction, nous faisons référence au mouvement des valeurs vers la moyenne ou à zéro dans certains cas, tels que la régularisation de la régression – qui réduit les paramètres à zéro.
Bien sûr, il s’agit non seulement de la réduction de lui-même, mais les Stein (1956) et James et Stein (1961) ont montré que Stein Estimator domine l’estimateur de chercheuse maximale dans Termes du total des carrés d’erreur,
$$ e_ \ mu (\ \ boldsymbol {\ chapeau \ mu} ^ {js} – \ boldsymbol {\ mu} \ | ^ 2) < e_ \ mu (\ | \ boldsymbol {\ chapeau \ mu} ^ {mle} – \ boldsymbol {\ mu} \ | ^ 2) $$
MU} = ( \ mu_1, \ mu_2, \ dots, \ mu_p) ‘$, $ \ chapeau \ mu ^ {js} _I $ est le stein e $ \ hat \ mu ^ {mle} estimateur _I = x_i $, où les deux estimateurs estiment que À $ x_1, x_2, \ dots, x_p $ de l’échantillon. Les tests auxquels sont donnés dans les rôles d’origine et l’appendice du document est référencé. Dans la plaine anglaise, ce qu’ils ont montré, c’est que oui, simultanément, $ p > 2 $ conjectures, puis en termes de carrés d’erreur totale, je devrais le faire mieux par le Réduction d’eux, en face de coller à sa conjecture initiale.
Enfin, Stein Estimator n’est certainement pas le seul estimateur qui donne l’effet de la contraction. Pour d’autres exemples, il peut être vérifié que cette entrée de blog, ou à laquelle des données bayesiennes ont été signalées une analyse du livre Gelman et al. Vous pouvez également vérifier les threads sur la régression de la régularisation, par exemple, quel est le problème de la contraction des méthodes de résolution?, Ou lorsque l’utilisation de méthodes de régularisation pour la régression?, Pour d’autres applications pratiques de cet effet.