Buenos recursos (en línea o libro) sobre los fundamentos matemáticos de la estadística.

17

Antes de hacer mi pregunta, permítame brindarle un poco de antecedentes sobre lo que sé sobre estadísticas para que tenga una mejor idea de los tipos de recursos que estoy buscando.

Soy un estudiante graduado en psicología, y como tal, uso estadísticas casi todos los días. En este momento estoy familiarizado con una amplia gama de técnicas, principalmente a medida que se implementan en el marco general de modelado de ecuaciones estructurales. Sin embargo, mi entrenamiento ha sido en el uso de estas técnicas y la interpretación de los resultados; no tengo mucho conocimiento de los fundamentos matemáticos formales de estas técnicas.

Sin embargo, cada vez más, he tenido que leer documentos de estadísticas propiamente dichas. Descubrí que estos documentos a menudo suponen un conocimiento práctico de conceptos matemáticos de los que no sé mucho, como el álgebra lineal. Por lo tanto, me he convencido de que si deseo hacer algo más que usar ciegamente las herramientas que me han enseñado, sería útil para mí aprender algunas de las bases matemáticas de la estadística.

Entonces, tengo dos preguntas relacionadas:

  1. ¿Qué técnicas matemáticas me serían útiles si quisiera repasar los fundamentos matemáticos de la estadística? Me he encontrado con álgebra lineal con bastante frecuencia, y estoy seguro de que aprender sobre la teoría de la probabilidad sería útil, pero ¿hay otras áreas de matemáticas que podrían ser útiles para mí?
  2. ¿Qué recursos (en línea o en forma de libro) me puede recomendar como alguien que quiere saber más sobre los fundamentos matemáticos de la estadística?
Patrick S. Forscher
fuente
¿Qué matemática ya sabes?
Peter Flom - Restablece a Monica
Muy poco. Sé algo de álgebra lineal ligera como parte del aprendizaje de las extensiones multivariadas de la GLM. Sin embargo, la mayor parte de mi entrenamiento en estadísticas ha sido en un nivel conceptual: se ha orientado a que comprenda cómo usar e interpretar los resultados, no necesariamente para entender por qué cierto resultado (como el CLT) es verdadero.
Patrick S. Forscher
2
Álgebra lineal, al menos algún cálculo básico, al menos un curso básico sobre probabilidad, álgebra lineal, un poco de simulación por computadora, algo de teoría estadística y quizás algo de álgebra lineal. Si bien no es crítico, alguna programación básica sería una ventaja. En realidad, las preguntas generadas aquí por los estudiantes tienden a sugerir muchos de los antecedentes necesarios.
Glen_b -Reinstate a Monica el

Respuestas:

12

Matemáticas:

Grinstead & Snell, Introducción a la probabilidad (es gratis)

Strang, Introducción al Álgebra Lineal

Strang, Cálculo

También echa un vistazo a Strang en MIT OpenCourseWare.

Teoría estadística (es más que solo matemáticas):

Cox, principios de inferencia estadística

Cox y Hinkley, Estadística teórica

Geisser, modos de inferencia estadística paramétrica

Y yo segundo @ Andre's Casella & Berger.

Scortchi - Restablece a Monica
fuente
Gracias Scortchi. Esto parece una gran lista, y era exactamente el tipo de cosas que estaba buscando (+1).
Patrick S. Forscher
Bueno. Las tres primeras son casi todas las matemáticas que conozco. Y el cuarto debe leerse junto con Casella & Berger, énfasis muy diferente.
Scortchi - Restablece a Monica
3

Algunos temas importantes de estadística matemática son:

  • Familia exponencial y suficiencia.
  • Construcción del estimador.
  • Evaluación de la hipótesis.

Referencias sobre estadística matemática:

Andre Silva
fuente
0

SEM está (en mi opinión) muy alejado de la teoría de probabilidad tradicional y de algunas técnicas estadísticas básicas que se extienden fácilmente de ella (como la estimación puntual, la teoría de muestras grandes y las estadísticas bayesianas). Creo que SEM es el resultado de una gran abstracción de tales métodos. Además, creo que la razón por la cual tales abstracciones fueron necesarias fue por la abrumadora demanda de comprender mejor la inferencia causal .

Creo que un libro que sería perfecto para alguien de tu origen sería la causalidad de Judea Pearl . Este libro aborda específicamente la SEM y las estadísticas multivariadas, desarrolla una teoría de causalidad e inferencia, y es muy filosóficamente sólido. No es un libro matemático, pero se basa en gran medida en la lógica y los contrafactuales, y desarrolla un lenguaje muy preciso para defender los modelos estadísticos.

Puedo decir desde un punto de vista matemático que estos resultados son muy sólidos y no requieren una amplia comprensión del cálculo. También creo que no es realista que alguien de tu pedigrí se ponga al día con las matemáticas necesarias cuando ya eres un estudiante graduado, ¡por eso hay estadísticos!

AdamO
fuente
1
Gracias, esto parece un recurso útil. Sin embargo, parece que esto no está escrito en el nivel que quiero. Ya tengo abundantes recursos sobre cómo sacar conclusiones apropiadas de los datos. Lo que me falta es una comprensión de las matemáticas subyacentes. Por ejemplo, sé en general que la estimación de ML encuentra los valores de los parámetros que maximizan la probabilidad de observar los datos, pero realmente no entiendo cómo se encuentran esos valores de parámetros o por qué funcionan los diferentes métodos de ML.
Patrick S. Forscher
Esto requiere cálculo: diferenciación multivariada, integración y secuencia y serie infinitas. Además, necesitarás álgebra lineal. Una vez que tenga eso en su haber, puede usar cualquiera de los textos básicos de teoría de posgrado de primer año en probabilidad e inferencia. La más común es Casella, la "Inferencia estadística" de Berger. Este es un compromiso de 3 años al menos para obtener las matemáticas requeridas más allá del álgebra universitaria. No puedes "obtener las matemáticas" sin cálculo.
AdamO
¿Qué nivel de conocimiento en cálculo se requiere? Tomé cálculo en la escuela secundaria, pero no lo he usado desde entonces.
Patrick S. Forscher
Serían todos los mismos requisitos previos que los de un programa de ingeniería. La diferenciación, la integración y la serie / secuencia infinita constituyen un año de cálculo introductorio. Después de lo cual, necesitas álgebra lineal básica.
AdamO