Ordinary and weighted least-squares estimators

We propose a method of estimating the asymptotic relative efficiency (ARE) of the weighted least-squares estimator (WLSE) with respect to the ordinary least-squares estimator (OLSE) in a heteroscedastic linear regression model with a large number of observations but a small number of replicates at each value of the regressors. The weights used in the WLSE are the reciprocals of the (within-group) average of squared residuals. It is shown that the OLSE is more efficient than the WLSE if the maximum number of replicates is not larger than two. The proposed estimator of the ARE is consistent as the number of observations tends to infinity. Finite-sample performance of this estimator is examined in a simulation study. An adaptive estimator, which is asymptotically more efficient than the OLSE and the WLSE, is proposed. On considère le contexte de la régression linéaire où les variances des erreurs sont inégales et où le nombre de variables indépendantes est grand avec un petit nombre de mesures répétées pour chacune. On propose alors une méthode pour estimer l'efficacité asymptotique relative de l'estimateur des moindres carrés pondérés (WLSE) par rapport à l'estimateur des moindres carrés usuel (OLSE). Les poids utilisés sont les inverses des moyennes (intra-groupe) des carrés des résidus. On montre que l'estimateur OLSE est plus efficace que l'estimateur WLSE si le nombre maximal de répétitions n'est pas plus grand que deux. L'estimateur de l'efficacité est convergent lorsque le nombre d'observations augmente. La performance de cet estimateur pour des échantillons de taille finie est étudiée à l' de simulations. On propose un estimateur adaptatif qui est asymptotiquement plus efficace que les estimateurs OLSE et WLSE.