

%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\documentclass[12pt]{article}

\topmargin -1in
\oddsidemargin -0.4in
\evensidemargin 0in
\textwidth 7.3in
\textheight 10in
\parskip .06in

\usepackage[english]{babel}
\usepackage{enumerate}
\usepackage{enumitem}
\usepackage{fancyhdr}
\usepackage{amssymb}
\usepackage{amsthm}
\usepackage{amscd}
\usepackage{amsmath}
\usepackage{amsfonts}
\usepackage{graphicx}
\usepackage{amsmath, amsfonts, amssymb}
%\def\natural{\hbox{$\displaystyle I\hskip -3pt N$}}
%\def\real{\hbox{$\displaystyle I\hskip -3pt R$}}
\newcommand{\Tau}{\mathrm{T}}

\makeatletter
\newcommand{\daggeritem}{%
  \refstepcounter{\@enumctr}% step the level-specific counter
  \item[% Insert item/enumeration
    {\raisebox{-0ex}[0pt][0pt]{{\textdagger}}}% Place bomb
    \,% Space
    \@nameuse{label\@enumctr}]% Place level-formatted counter
}
\makeatother


\include{definiciones}

\begin{document}

\noindent
\textbf{Estad\'\i stica (M) - Segundo cuatrimestre 2019}\\[0.2cm]\textbf{Pr\'actica 2} - \textbf{Error Cuadr\'atico Medio, Consistencia y Distribuci\'on Asint\'otica}
\vspace{-0.3cm}
\newline
\rule{18cm}{0.2mm}

\noi Se recomienda empezar por los ejercicios marcados sin \textdagger.


\noi A) \underline{\textsl{Riesgo, Error Cuadr\'atico Medio, Estimadores Insesgados.}}


\begin{enumerate}
\item Sea $X_1,\dots ,X_n$ una muestra aleatoria de una distribuci\'{o}n
con par\'{a}metro $\theta .$ Sea $\hat{\theta}_n=\delta \left( {\bf X}%
\right) $ un estimador de $\theta $ con varianza finita. Si $b( \hat{%
\theta}_n) $ es el sesgo de $\hat{\theta}_n,$ probar que ${\rm ECM}%
( \hat{\theta}_n) =V( \hat{\theta}_n) +b( \hat{\theta}_n) ^2.$



\item Sea $X_1,\dots ,X_n$ una m.a. de una distribuci\'{o}n tal que existe $%
V\left( X\right) =\sigma ^2$. 


\begin{enumerate}
\item Demostrar que 
\[
s^2=\frac 1{n-1}\sum_{i=1}^n\left( X_i-\bar{X}\right) ^2 
\]
es un estimador insesgado de $\sigma ^2$.

\item  Sea $X_1,\dots ,X_n$ es una m.a. de
una distribuci\'{o}n $N\left( \mu ,\sigma ^2\right) $, calcular el ${\rm ECM}(s^2)$ y el  ${\rm ECM}(\tilde{\sigma}^2)$ donde $\tilde{\sigma}^2=\left( n-1\right)
s^2/\left( n+1\right) $.

Sugerencia: puede usar que si $X_1, \dots, X_n$ son i.i.d con distribuci\'on $N(\mu, \sigma^2)$, entonces
\begin{equation*}
\frac{\sum_{i = 1}^n (X_i - \overline{X})^2}{\sigma^2} \sim \chi^2_{n-1}.
\end{equation*}

\item  Probar que, aunque ${\rm ECM}\left( s^2\right) >{\rm ECM}\left( 
\tilde{\sigma}^2\right) $, la raz\'{o}n entre los ECM tiende a 1 cuando $%
n\to \infty $.

\item  Mostrar que la contribuci\'{o}n del sesgo de $\tilde{\sigma}^2$ a $%
{\rm ECM}\left( \tilde{\sigma}^2\right) $ es despreciable cuando $n\to
\infty $ (en el sentido de que la raz\'{o}n entre $b\left( \tilde{\sigma}%
^2\right) ^2$ y ${\rm ECM}\left( \tilde{\sigma}^2\right) $ tiende a 0).
\end{enumerate}

\item Dada una m.a. $X_1,\dots ,X_n$ de una distribuci\'{o}n ${\cal U}%
\left( 0,\theta \right) ,$ sea $\wtheta_n$ el EMV de $\theta $ y $\wttheta_n$ el estimador de $\theta $ basado en el primer momento.

\begin{enumerate}
\item  Probar que $\wttheta_n$ es insesgado y que $\wtheta_n$ es
asint\'{o}ticamente insesgado.

\item  Calcular el ECM de ambos estimadores. \textquestiondown Qu\'{e}
estimador preferir\'{\i}a desde este punto de vista? 

\item \textquestiondown C\'omo modificar\'ia el estimador $\wtheta_n$ para que quede insesgado? Llamemos $\wtheta^{\text{mod}}_n$ a este estimador modificado.

\item (Para hacer con R) Para cada uno de los valores $n = 6,10,20,40,80,200$ hacer lo siguiente:
\begin{enumerate}
\item Generar una muestra de tama\~no $n$ de una distribuci\'on $\itU(0, \theta_0)$ con $\theta_0 = 3$.
\item Evaluar los tres estimadores $\wttheta_n$, $\wtheta_n$ y $\wtheta^{\text{mod}}_n$ en dicha muestra.
\item Repetir los dos pasos anteriores $m = 1000$ veces, obteniendo as\'i, para cada uno de los tres estimadores, replicaciones $\theta_1^*, \dots, \theta_m^*$.
\item Para cada estimador, computar el ECM
\begin{equation*}
\frac{1}{m} \sum_{i = 1}^m (\theta_i^* - \theta_0)^2
\end{equation*}
\end{enumerate}
 Finalmente, graficar $n$ vs. el ECM de cada uno de los tres m\'etodos anteriores (todo en un mismo gr\'afico). Hacer boxplots con los valores estimados $\theta_1^*, \dots, \theta_m^*$. \textquestiondown Tienen sentido estos resultados respecto de los resultados te\'oricos de los primeros items?
\end{enumerate}
\daggeritem Un estimador $\delta$ se dice \textbf{inadmisible} para una cierta funci\'on de riesgo $R(\delta, \theta)$ si existe otro estimador  $\delta^*$ tal que $R(\delta, \theta) \geq R(\delta^*, \theta)$ para todo $\theta \in \Theta$ y $R(\delta, \theta) > R(\delta^*, \theta)$ para alg\'un $\theta \in \Theta$. Un estimador es \textbf{admisible} si no es inadmisible.
\begin{enumerate}
\item Probar que los estimadores Bayes (respecto a la p\'erdida cuadr\'atica) son admisibles para el ECM, o sea, para el riesgo $R(\delta, \theta) = \esp[(\delta(\bX) - \theta)^2]$.
\item Consideremos el riesgo cuadr\'atico pesado, o sea $R(\delta, \theta) = \esp[w(\theta)(\delta(\bX) - \theta)^2]$ con $w$ una funci\'on positiva. Sea $X_1, \dots, X_n$ una muestra aleatoria con $\esp[X_1] = \mu$ y $\var(X_1) = \sigma^2 < \infty$.
\begin{enumerate}
\item Probar que los estimadores de la forma $a \overline{X} + b$ con $a > 1$ son inadmisibles respecto a esta funci\'on de riesgo.
\item Probar que los estimadores de la forma $\overline{X} + b$ con $b \neq 0$ son inadmisibles respecto a esta funci\'on de riesgo.
\end{enumerate}
\end{enumerate}


\daggeritem Sea $X_1,\dots ,X_n$ una m.a. de una distribuci\'{o}n tal que existe $%
E\left( X_1\right) =\mu .$ Consideremos la clase de estimadores 
\[
{\cal D}=\left\{ \delta \left( {\bf X}\right) =\sum_{i=1}^n\alpha
_iX_i:\alpha _i\in {\real},\;\sum_{i=1}^n\alpha _i=1\right\} . 
\]

\begin{enumerate}
\item Probar que todo $\delta \in {\cal D}$ es un estimador insesgado de $%
\mu .$

\item  Supongamos que existe $V\left( X\right) =\sigma ^2.$ Mostrar que $%
\bar{X}=\displaystyle\arg \min_{\delta \in {\cal D}}V\left( \delta \right) .$
\end{enumerate}
\daggeritem (Para hacer con R) Volvemos a los estimadores James-Stein de la pr\'actica anterior. Vamos a comparar los estimadores Bayes y EMV para $\bmu = (\mu_1, \dots, \mu_n)$. Para cada uno de los valores $n = 6,10,20,40,80,200$ hacer lo siguiente:
\begin{enumerate}
\item Generar los $\mu_1, \dots, \mu_n$ independientemente a partir de una distribuci\'on $N(2,4)$ y a partir de esto obtener $X_1, \dots, X_n$ donde $X_i |_{\mu_i} \sim N(\mu_i,1)$.
\item Estimar $\bmu$ con el m\'etodo de m\'axima verosimilitud y con el estimador de James-Stein.
\item Para cada estimador, obtener
\begin{equation*}
 e = \frac{1}{n} \sum_{i = 1}^n (\wmu_i - \mu_i)^2.
 \end{equation*} 
\item Replicar los \'ultimos 3 pasos $m = 1000$ veces, obteniendo para cada estimador los errores $e_1, \dots, e_m$. Estimar el ECM para cada uno de los dos estimadores promediando estas $m$ replicaciones.
\item Graficar (en un \'unico gr\'afico) $n$ vs. el estimador del ECM obtenido en el item anterior para cada metodo. 
\end{enumerate}

\end{enumerate}

\noi B) \underline{\textsl{Consistencia y distribuci\'on asint\'otica}}

\begin{enumerate}
\item
\begin{enumerate}
\item  Sea $\delta _{n}$ un estimador de $q(\theta)$. Probar que si ${\rm ECM}_{\theta }\left( \delta
_{n}\right) \rightarrow 0,$ entonces $\delta _{n}$ es d\'{e}bilmente
consistente.

\item  Sea $X_{1},\dots ,X_{n}$ una m.a. tal que $E_{\theta }\left( X\right)
=\theta $ y $V_{\theta }\left( X\right) <\infty .$ Consideremos el siguiente
estimador aleatorizado de $\theta :$%
\[
\delta _{n}=\left( 1-\varepsilon _{n}\right) \bar{X}+\varepsilon _{n}n
\]
donde $\varepsilon _{n}\sim Bi\left( 1,1/n\right) $ y es independiente de
las $X_{i}.$ Probar que $\delta _{n}$ es d\'{e}bilmente consistente, aunque $%
{\rm ECM}_{\theta }\left( \delta _{n}\right) \rightarrow \infty .$
\end{enumerate}

%\item  Sea $\Theta $ un espacio param\'{e}trico finito y $\delta _{n}$ el
%EMV de $\theta .$ Probar que $\delta _{n}$ es d\'{e}bilmente consistente si
%y s\'{o}lo si $P_{\theta }\left( \delta _{n}=\theta \right) \rightarrow
%1\;\forall \theta \in \Theta .$

\item  Sea $X_{1},\dots ,X_{n}$ una muestra aleatoria de una
distribuci\'{o}n ${\cal E}\left( \theta \right) .$ Probar que el EMV de $%
\theta $ es fuertemente consistente y hallar su distribuci\'on asint\'otica.

\item  Sea $X_{1},\dots ,X_{n}$ una muestra aleatoria de una
distribuci\'{o}n ${\cal P}\left( \lambda \right) $. Consideremos $\delta
_{n}=\bar{X}$ y
\[
\delta _{n}^{*}=-\frac{1}{2}+\sqrt{\frac{1}{4}+\frac{1}{n}%
\sum_{i=1}^{n}X_{i}^{2}}
\]

\begin{enumerate}
\item  Analizar si estos estimadores de $\lambda $ son fuertemente
consistentes.

\item  Hallar sus distribuciones asint\'{o}ticas. Decir si alguno de los dos
es asint\'{o}ticamente eficiente.

({\sc Nota:} $E\left( X^{4}\right) =\lambda ^{4}+6\lambda ^{3}+7\lambda
^{2}+\lambda $)
\end{enumerate}

\item  Sea $X_{1},\dots,X_{n}$ una muestra aleatoria de una distribuci\'{o}n $%
U(0,\theta )$.

\begin{enumerate}
\item (Para hacer con el R) Hacer histogramas para los valores $\theta_1^*, \dots, \theta_1^*$ para cada n y cada uno de los tres estimadores del ejercicio A.3 de esta pr\'actica. \textquestiondown A qu\'e familia intuye que pertenecen las distribuciones asint\'oticas de dichos estimadores?
\item  Probar que el EMV de $\theta $ es d\'ebilmente y fuertemente consistente  y hallar su
distribuci\'{o}n asint\'{o}tica.

\item  Probar que el estimador de momentos para $\theta $ es fuertemente consistente y
hallar su distribuci\'{o}n asint\'{o}tica.

\item  \textquestiondown Cu\'{a}l de estos dos estimadores preferir\'{i}a? 
\textquestiondown Por qu\'{e}?
\end{enumerate}

\item  Sea $X_{1},\dots ,X_{n}$ una m.a. de una distribuci\'{o}n exponencial
desplazada, cuya densidad es
\[
f\left( x\right) =e^{-\left( x-\theta \right) }I_{\left[ \theta ,\infty
\right) }\left( x\right) .
\]

\begin{enumerate}
\item  Probar que el EMV de $\theta $ es d\'ebilmente y fuertemente consistente y hallar su
distribuci\'{o}n asint\'{o}tica.
\item  Probar que el estimador de momentos para $\theta $ es consistente y
hallar su distribuci\'{o}n asint\'{o}tica.

\item  \textquestiondown Cu\'{a}l de estos dos estimadores preferir\'{i}a? 
\textquestiondown Por qu\'{e}?

\end{enumerate}
\daggeritem  Sea $X_{1},\ldots ,X_{n}$ una m.a. de una distribuci\'{o}n $%
F_{0}\left( x-\theta \right) $ con $F_{0}$ una funci\'{o}n de distribuci\'on fija
y $\theta \in {\real}$. Sea $\delta _{n}$ un estimador de $\theta $
equivariante por traslaciones (i.e.: para cualquier constante $c\in {\real}$
se verifica que $\delta _{n}\left( x_{1}+c,\ldots ,x_{n}+c\right) =\delta
_{n}\left( x_{1},\ldots ,x_{n}\right) +c$). 
\begin{enumerate}
\item Mostrar que $\delta_{n}-\theta$ tiene una distribuci\'on que no depende de $\theta$.
\item Deducir que la varianza
asint\'{o}tica de $\delta _{n}$ (si existe) no depende de $\theta$.
\end{enumerate}


\daggeritem  Sea $X_{1},\dots,X_{n}$ una muestra aleatoria de una distribuci\'{o}n $F
$ con densidad $f(x-\mu )$ donde $f(x)$ satisface: i) $f(x)=f(-x)$, ii) $f(x)$ continua en $x=0.$

\begin{enumerate}
\item  Sea $Z_{a,i}=I\{X_{i}\leq a\}$. Mostrar que $Z_{a,i}$ tiene
distribuci\'{o}n Bi$(1,F(a)).$

\item  Sea $Z_{a}=\sum Z_{a,i}$. Mostrar que $Z_{a}$ tiene distribuci\'{o}n
Bi$(n,F(a)).$

\item  Probar que 

$P(Z_{a}\geq \left[ \frac{n}{2}\right] +1)\leq P($mediana$%
(X_{1,...,}X_{n})\leq a)\leq P(Z_{a}\geq \left[ \frac{n}{2}\right] )$

\item  Mostrar que mediana$(X_{1,...,}X_{n})$ es un estimador d\'{e}bilmente
consistente de $\mu .$
\end{enumerate}

%\item  Sea $X_{1},\ldots ,X_{n}$ una m.a. $N\left( \theta ,1\right) .$
%Definamos el estimador
%\[
%\delta _{n}=\left\{
%\begin{array}{lll}
%\bar{X} &  & \mbox{ si }\left| \bar{X}\right| \geq 1/n^{1/4} \\
%\frac{1}{2}\bar{X} &  & \mbox{ si }\left| \bar{X}\right| <1/n^{1/4}
%\end{array}
%\right.
%\]
%Probar que $\sqrt{n}\left( \delta_{n}-\theta \right) \convdist N\left( 0,v\left( \theta \right) \right) $ con $v\left( \theta
%\right) =1/{\rm I}\left( \theta \right) \;\forall \theta \neq 0$ y $v\left(
%0\right) <1/{\rm I}\left( 0\right) .$

\end{enumerate}


\vspace{1cm}
\end{document}