¿Por qué no una regresión robusta cada vez?

12

Los ejemplos de esta página muestran que la regresión simple se ve notablemente afectada por los valores atípicos y esto se puede superar mediante técnicas de regresión robusta: http://www.alastairsanderson.com/R/tutorials/robust-regression-in-R/ . Creo que lmrob y ltsReg son otras técnicas de regresión robustas.

¿Por qué no se debe hacer una regresión robusta (como rlm o rq) cada vez en lugar de realizar una regresión simple (lm)? ¿Hay algún inconveniente en estas técnicas de regresión robustas? Gracias por tu perspicacia.

regression multiple-regression robust rnso
fuente
2
Esto puede ser útil.
conjugateprior

Respuestas:

6

El teorema de Gauss-Markov :

En un modelo lineal con errores esféricos (que a lo largo del camino incluye la suposición de que no hay valores atípicos, a través de una varianza de error finita), OLS es eficiente en una clase de estimadores lineales insesgados: existen condiciones (restrictivas, para estar seguros) bajo las cuales " no puedes hacerlo mejor que OLS ".

Christoph Hanck
fuente
Entonces, si no hay valores atípicos, la regresión lineal sería la mejor. Pero si las hay, o si se están violando otros supuestos, entonces solo uno debería realizar regresiones robustas. ¿Es eso correcto?
rnso
2
Si hay valores atípicos, otras técnicas son mejores, sí. No llegaría a la conclusión de que "si se están violando otras suposiciones, entonces uno [...] debería realizar regresiones robustas", no es una panacea para todas las violaciones. Fx, cuando los errores se correlacionan con los regresores y se buscan efectos causales, se requieren técnicas de variables instrumentales.
Christoph Hanck