Per què és l’estimador de James-Stein diu un estimador de “contracció”?

Una imatge de vegades val més que mil paraules, així que permetin-me compartir amb vostès. A continuació pots veure una il·lustració que ve de Bradley Efron (1977) paper Stein paradoxa en les estadístiques. Com es pot veure, el que Stein estimador fa és moure cada un dels valors més prop de la gran mitjana. Això fa que els valors més grans que el gran mitjà dels més petits, i els valors més petits que el gran mitjana, més gran. Per la contracció ens referim a la mudança dels valors cap a la mitjana, o cap al zero en alguns casos – com la regularització de la regressió – que encongeix els paràmetres a zero. A Illustration of the Stein Estimator from Efron (1977) a Per descomptat, no és només sobre la reducció de si mateix, sinó el Stein (1956) i James i Stein (1961) han demostrat, és que Stein estimador domina l’estimador de màxima versemblança en termes de l’total de quadrats d’error, per $$ E_ \ mu (\ | \ boldsymbol {\ hat \ mu} ^ {JS} – \ boldsymbol {\ mu} \ | ^ 2) < E_ \ mu (\ | \ boldsymbol {\ hat \ mu} ^ {MLE} – \ boldsymbol {\ mu} \ | ^ 2) $$ a on $ \ boldsymbol {\ mu} = (\ mu_1, \ mu_2, \ dots, \ mu_p) ‘$, $ \ hat \ mu ^ {JS} _i $ és el Stein estimador d’e $ \ hat \ mu ^ {MLE} _i = x_i $, on tots dos estimadors s’estima que al $ x_1, x_2, \ dots, X_p $ de la mostra. Les proves a les que es donen en els papers originals i l’apèndix de el document es fa referència. A la plana anglès, el que han demostrat és que si, simultàniament, $ p > 2 $ conjectures, a continuació, en termes de l’total de quadrats d’error, hauria de fer-ho millor mitjançant la reducció d’ells, enfront de enganxar-se a la seva inicial conjectures.
Finalment, Stein estimador no és certament l’únic estimador que dóna l’efecte de la contracció. Per a altres exemples, es pot comprovar que aquesta entrada de bloc, o a la qual es refereix bayesià de dades anàlisi dels llibre de Gelman et al. També pot comprovar els fils sobre la regularització de la regressió, per exemple, Quin és el problema de fer la contracció dels mètodes de resoldre ?, o Quan l’ús de mètodes de regularització per a la regressió ?, per a altres aplicacions pràctiques d’aquest efecte.

Deixa un comentari

L'adreça electrònica no es publicarà. Els camps necessaris estan marcats amb *