¿Cuál es el mejor libro de texto introductorio de estadísticas bayesianas?

¿Cuál es el mejor libro de texto introductorio para las estadísticas bayesianas?

Un libro por respuesta, por favor.

John Kruschke lanzó un libro a mediados de 2011 llamado Doing Bayesian Data Analysis: A Tutorial with R and BUGS . (En noviembre de 2014 se lanzó una segunda edición: Doing Bayesian Data Analysis, Segunda edición: Un tutorial con R, JAGS y Stan .) Es realmente introductorio. Sin embargo, si desea caminar desde estadísticas frecuentas a Bayes, especialmente con el modelado multinivel, le recomiendo Gelman y Hill.

John Kruschke también tiene un sitio web para el libro que tiene todos los ejemplos del libro en BUGS and JAGS. Su blog sobre estadísticas bayesianas también se vincula con el libro.

Mi favorito es el "Análisis de datos bayesianos" de Gelman, et al.

Replanteamiento estadístico , se lanzó hace solo unas semanas y, por lo tanto, todavía lo estoy leyendo, pero creo que es una adición muy agradable y fresca a los libros realmente introductorios sobre estadísticas bayesianas. El autor utiliza un enfoque similar al utilizado por John Kruschke en sus libros para cachorros ; explicaciones muy detalladas y detalladas, buenos ejemplos pedagógicos, también utiliza un enfoque computacional en lugar de matemático.

Las conferencias de Youtube y otros materiales también están disponibles desde aquí .

Código portado a Python / PyMC3

Otro voto para Gelman et al., Pero un segundo cercano para mí, siendo de la persuasión de aprender haciendo, es la "Computación Bayesiana con R" de Jim Albert .

Sivia y Skilling, Análisis de datos: un tutorial bayesiano (2ed) 2006 246p 0198568320 books.goo :

Las conferencias de estadística han sido fuente de mucho desconcierto y frustración para generaciones de estudiantes. Este libro intenta remediar la situación exponiendo un enfoque lógico y unificado a todo el tema del análisis de datos. Este texto pretende ser una guía tutorial para estudiantes universitarios y estudiantes de investigación en ciencias e ingeniería ...

Sin embargo, no conozco las otras recomendaciones.

Para una introducción, recomendaría la Programación Probabilística y los Métodos Bayesianos para Hackers por Cam Davidson-Pilon, disponibles gratuitamente en línea.

De su descripción:

Una introducción a los métodos bayesianos y la programación probabilística desde un punto de vista de computación / comprensión primero, matemático segundo.

Es muy visual, corta directamente al valor y rellena detalles arenosos más tarde, tiene muchos ejemplos, tiene código interactivo (en IPython Notebook).

Recomiendo la polémica entretenida "Teoría de la probabilidad: la lógica de la ciencia" de ET Jaynes.

Este es un texto introductorio en el sentido de que no requiere (y de hecho prefiere) ningún conocimiento previo de estadística, pero eventualmente emplea matemáticas bastante sofisticadas. En comparación con la mayoría de las otras respuestas proporcionadas, este libro no es tan práctico o fácil de digerir, sino que proporciona la base filosófica de por qué querría emplear métodos bayesianos y por qué no usar enfoques frecuentistas. Es introductorio de una manera histórica y filosófica, pero no pedagógica.

Soy ingeniero eléctrico y no estadístico. Pasé mucho tiempo para estudiar Gelman, pero no creo que uno pueda referirse a Gelman como introductorio. Mi profesor bayesiano-gurú de Carnegie Mellon está de acuerdo conmigo en esto. Tener el mínimo conocimiento de estadísticas y R y errores (como la manera fácil de HACER algo con la estadística bayesiana) Hacer un análisis de datos bayesianos: un tutorial con R y BUGS es un comienzo increíble. ¡Puedes comparar todos los libros ofrecidos fácilmente por su portada!

Actualización de 5 años más tarde: quiero agregar que quizás otra forma importante de aprender de una manera rápida (40 minutos) es revisar la documentación de una herramienta basada en la GUI de Bayesian Net como Netica 2 . Comienza con lo básico, lo guía a través de los pasos para construir una red basada en una situación y datos, y cómo ejecutar sus propias preguntas de un lado a otro para "obtenerlo".

Su enfoque no está estrictamente en las estadísticas bayesianas, por lo que carece de alguna metodología, pero la teoría de la información, la inferencia y los algoritmos de aprendizaje de David MacKay me hicieron comprender intuitivamente las estadísticas bayesianas mejor que otras, la mayoría lo hace muy bien, pero sentí que MacKay explicó por qué mejor.

Los libros de Gelman son excelentes, pero no necesariamente introductorios, ya que suponen que ya conoce algunas estadísticas. Por lo tanto, son una introducción a la forma bayesiana de hacer estadísticas en lugar de a las estadísticas en general. Sin embargo, todavía les daría el visto bueno.

Como un libro introductorio de estadísticas / econometría que toma una perspectiva bayesiana, recomendaría la Econometría bayesiana de Gary Koop .

" Núcleo bayesiano: un enfoque práctico para las estadísticas bayesianas computacionales " por Marin y Robert, Springer-Verlag (2007).

"¿Por qué?": El autor explica el por qué de la elección bayesiana y qué tan bien. Es un libro práctico, pero escrito por uno de los mejores pensadores bayesianos vivos. No es exhaustivo Otros libros tienen ese objetivo. Recoge algunos temas que son relevantes, útiles y que iluminan los fundamentos.

Acerca de la "elección": si realmente quiere profundizar en la base bayesiana, "La elección bayesiana" de Xi'an es clara, profunda y esencial.

Mi primer texto de pregrado favorito para estadísticas bayesianas es de Bolstad, Introducción a las estadísticas bayesianas . Si está buscando algo de nivel de posgrado, esto será demasiado elemental, pero para alguien que es nuevo en las estadísticas, esto es ideal.

No sé por qué nadie ha mencionado el libro introductorio sobre bayesiano:

Hay una versión PDF gratuita para el libro. El libro ofrece suficiente material para cualquiera que tenga muy poca experiencia en bayesiano. Introduce el concepto de distribución previa, distribución posterior, distribución beta, etc.

Pruébalo, es gratis.

http://greenteapress.com/thinkbayes/

He leído algunas partes de Un primer curso sobre métodos estadísticos bayesianos de Peter Hoff, y me pareció fácil de seguir. (Se proporciona un código R de ejemplo en todo el texto)

Encontré una excelente introducción en Gelman y Hill (2007) Análisis de datos utilizando regresión y modelos multinivel / jerárquicos . (Otros comentarios lo mencionan, pero merece ser votado por sí mismo).

Viniendo de antecedentes no estadísticos, encontré Introducción a las Estadísticas Bayesianas Aplicadas y Estimación para Científicos Sociales bastante informativo y fácil de seguir.

Si está buscando un texto elemental, es decir, uno que no tenga un requisito previo de cálculo, está la Estadística de Don Berry : una perspectiva bayesiana .

Echa un vistazo a "La elección bayesiana" . Tiene el paquete completo: fundamentos, aplicaciones y computación. Claramente escrito

Al menos he echado un vistazo a la mayoría de estos en esta lista y ninguno es tan bueno como las nuevas Ideas Bayesianas y Análisis de Datos en mi opinión.

Editar: Es fácil comenzar inmediatamente a hacer análisis bayesianos mientras lee este libro. No solo modela la media de una distribución Normal con una varianza conocida, sino un análisis de datos real después de los primeros capítulos. Todos los ejemplos de código y datos están en el sitio web del libro. Cubre una cantidad decente de teoría, pero el enfoque son las aplicaciones. Muchos ejemplos sobre una amplia gama de modelos. Buen capítulo sobre no paramétricos bayesianos. Ejemplos de Winbugs, R y SAS. Lo prefiero a Hacer análisis de datos bayesianos (tengo ambos). La mayoría de los libros aquí (Gelman, Robert, ...) no son introductorios en mi opinión y, a menos que tengas a alguien con quien hablar, probablemente te queden más preguntas que respuestas. El libro de Albert no cubre suficiente material para sentirse cómodo analizando datos diferentes de los presentados en el libro (de nuevo, mi opinión).

Me gusta mucho Markov Chain Monte Carlo: Simulación estocástica para la inferencia bayesiana por Gamerman y Lopes.

Para principiantes completos, pruebe William Briggs Rompiendo la Ley de Promedios: Probabilidad y Estadísticas de la Vida Real en Inglés Sencillo

Simplemente debo incluir MCMC en la práctica . Proporciona una excelente introducción a MCMC, quizás no tan general como otros libros mencionados, pero es excelente para obtener información e intuición. Yo recomendaría leer después (o en paralelo con) bayesiano Computación con R .

Si vienes de las ciencias físicas (física / astronomía), te recomendaría Análisis de datos lógicos bayesianos para las ciencias físicas: un enfoque comparativo con el soporte de Mathematica® por Gregory (2006).

Aunque la parte del título "con soporte de Mathematica®" está ahí solo para cuestiones comerciales (los usos del código de Mathematica son muy pobres), lo bueno de este libro es que es realmente una introducción al tema de las probabilidades y las estadísticas. Incluso tiene algunos capítulos sobre estadísticas frecuentistas. Sin embargo, una vez que lo pruebes, ve por el libro de Gelman et. Al que mucha gente te recomendó. La mayor parte del material en el libro de Gregory se toma a la ligera (si no, no sería una introducción): el libro de Gelman ha sido un verdadero despertar de Gregory para mí.

Yo leo:

Gelman et al (2013). Análisis de datos bayesianos. CRC Press LLC. 3ra ed.

Hoff, Peter D (2009). Un primer curso en métodos estadísticos bayesianos. Textos Springer en Estadística.

Kruschke, Doing Bayesian Data Analysis: A Tutorial with R and Bugs, 2011. Academic Press / Elsevier.

y creo que el mejor para empezar es el libro de Kruschke. Es perfecto para un primer acercamiento al pensamiento bayesiano: los conceptos se explican muy claramente, no hay demasiadas matemáticas, ¡y hay muchos buenos ejemplos!

Gelman y col. es un gran libro, pero está más avanzado y sugiero leerlo después del de Kruschke.

Por el contrario, no me gustó el libro de Hoff porque es un libro introductorio, pero los conceptos (y el pensamiento bayesiano) no se explican de manera clara. Sugiero pasar por alto.

Si tuviera que elegir un solo texto para un principiante, sería

              Sivia DS and Skilling J (2006) book (see below). 

De todos los libros enumerados a continuación, se esfuerza más por dar una idea intuitiva de las ideas esenciales, pero aún requiere cierta sofisticación matemática de la página 1.

A continuación hay una lista de lecturas adicionales de mi libro, con comentarios sobre cada publicación.

Bernardo, JM y Smith, A, (2000) 4. Teoría bayesiana Una descripción rigurosa de los métodos bayesianos, con muchos ejemplos del mundo real.

Obispo, C (2006) 5. Reconocimiento de patrones y aprendizaje automático. Como sugiere el título, se trata principalmente del aprendizaje automático, pero proporciona una descripción lúcida y completa de los métodos bayesianos.

Cowan G (1998) 6. Análisis estadístico de datos. Una excelente introducción no bayesiana al análisis estadístico.

Dienes, Z (2008) 8. Comprender la psicología como ciencia: una introducción a la inferencia científica y estadística. Proporciona material tutorial sobre la regla de Bayes y un análisis lúcido de la distinción entre estadísticas bayesianas y frecuentistas.

Gelman A, Carlin J, Stern H y Rubin D. (2003) 14. Análisis de datos bayesianos. Una cuenta rigurosa y completa del análisis bayesiano, con muchos ejemplos del mundo real.

Jaynes E y Bretthorst G (2003) 18. Teoría de la probabilidad: la lógica de la ciencia. El clásico moderno del análisis bayesiano. Es integral y sabio. Su estilo discursivo lo hace largo (600 páginas) pero nunca aburrido, y está lleno de ideas.

Khan, S, 2012, Introducción al teorema de Bayes. Los videos de matemáticas en línea de Salman Khan son una buena introducción a varios temas, incluida la regla de Bayes.

Lee PM (2004) 27. Estadísticas bayesianas: una introducción. Un texto riguroso y completo con un estilo bayesiano estridente.

MacKay DJC (2003) 28. Teoría de la información, inferencia y algoritmos de aprendizaje. El clásico moderno sobre teoría de la información. Un texto muy legible que recorre muchos temas, casi todos los cuales hacen uso de la regla de Bayes.

Migon, HS y Gamerman, D (1999) 30. Inferencia estadística: un enfoque integrado. Una explicación directa (y claramente presentada) de la inferencia, que compara los enfoques bayesianos y no bayesianos. A pesar de ser bastante avanzado, el estilo de escritura es de naturaleza tutorial.

Pierce JR (1980) 34 2a edición. Una introducción a la teoría de la información: símbolos, señales y ruido. Pierce escribe con un estilo de escritura informal y tutorial, pero no deja de presentar los teoremas fundamentales de la teoría de la información.

Reza, FM (1961) 35. Una introducción a la teoría de la información. Un libro más riguroso y matemáticamente más riguroso que el libro anterior de Pierce, e idealmente debería leerse solo después de leer primero el texto más informal de Pierce.

Sivia DS y Skilling J (2006) 38. Análisis de datos: un tutorial bayesiano. Esta es una excelente introducción de estilo tutorial a los métodos bayesianos.

Spiegelhalter, D y Rice, K (2009) 36. Estadísticas bayesianas. Scholarpedia, 4 (8): 5230. http://www.scholarpedia.org/article/Bayesian_statistics Un resumen confiable y completo del estado actual de las estadísticas bayesianas.

Y aquí está mi libro, publicado en junio de 2013.

La regla de Bayes: una introducción tutorial al análisis bayesiano, Dr. James V Stone, ISBN 978-0956372840

El Capítulo 1 se puede descargar desde: http://jim-stone.staff.shef.ac.uk/BookBayes2012/BayesRuleBookMain.html

Descripción: descubierta por un matemático y predicador del siglo XVIII, la regla de Bayes es una piedra angular de la teoría de probabilidad moderna. En este libro ricamente ilustrado, se utiliza una variedad de ejemplos accesibles para mostrar cómo la regla de Bayes es en realidad una consecuencia natural del razonamiento de sentido común. La regla de Bayes se deriva utilizando representaciones gráficas intuitivas de probabilidad, y el análisis bayesiano se aplica a la estimación de parámetros utilizando los programas de MatLab proporcionados. El estilo de escritura tutorial, combinado con un glosario completo, lo convierte en una cartilla ideal para el principiante que desea familiarizarse con los principios básicos del análisis bayesiano.

No es estrictamente estadística bayesiana como tal, pero puedo recomendar encarecidamente "Un primer curso sobre aprendizaje automático" de Rogers y Girolami, que es esencialmente una introducción a los enfoques bayesianos para el aprendizaje automático. Está muy bien estructurado y es claro y está dirigido a estudiantes sin una sólida formación matemática. Esto significa que es una muy buena primera introducción a las ideas bayesianas. También hay código MATLAB / OCTAVE que es una buena característica.

Estadísticas bayesianas para científicos sociales . Phillips, Lawrence D. (1973), Thomas Crowell & Co. Es muy claro, muy accesible, no asume ningún conocimiento estadístico y, a diferencia de Bolstad, que encontré seco, tiene cierta personalidad.

Este libro sugiere que está dirigido al nivel de pregrado de nivel de entrada

Bioestadística: una introducción bayesiana. Por George G Woodsworth.

Publicado por John Wiley & Sons

Gill, J. (2014). Métodos bayesianos: un enfoque de ciencias sociales y del comportamiento. 3a edición.

Escrito por un profesor de ciencias políticas, con los científicos sociales como el público objetivo en mente. Se proporciona el código R.

http://www.amazon.com/Bayesian-Methods-Behavioral-Sciences-Statistics/dp/1439862486/

Dado que el tipo de principiante no se especifica en la pregunta, aquí está mi consejo para los estadísticos principiantes:

Andrew B. Lawson y Emmanuel Lesaffre (2012): Bioestadística Bayesiana

Este libro fue utilizado en el primer año de nuestro maestro de ciencias estadísticas y me pareció relativamente fácil de entender para un tema tan difícil. Al igual que con la mayoría de los libros de "bioestadística", los ejemplos son principalmente biología clínica, pero los métodos no se limitan a aquellos útiles en la ciencia clínica. Habíamos tenido aproximadamente medio año de educación estadística antes de esto y además del teorema de Bayes, las estadísticas bayesianas aún no se habían introducido.

Lo que también es bueno es que las 649 diapositivas completas de las presentaciones adjuntas están disponibles en línea .