¿Cuál es el mejor libro de texto introductorio de estadísticas bayesianas?

192

¿Cuál es el mejor libro de texto introductorio para las estadísticas bayesianas?

Un libro por respuesta, por favor.

Shane
fuente
36
En las respuestas, explique por qué recomienda un libro como "el mejor".
whuber
3
¿Cómo puede haber más de una respuesta a una pregunta formulada de esta manera?
naught101
77
Este es un tema antiguo ahora, pero volví a hacer +1 en un nuevo libro "Replanteamiento estadístico. Y al buscar las respuestas de mayor rango en el tema, creo que no se ha hecho una distinción clave: ¿" introductorio "para quién? ¿Un primer curso de estadística (que tiene un enfoque bayesiano)? ¿Una introducción a los métodos bayesianos para alguien con clases básicas de estadísticas de pregrado (no bayesianas)? O una introducción a las estadísticas bayesianas para un practicante de estadísticas no bayesianas que finalmente ¿Has sido persuadido de que esta cosa bayesiana no es una moda? Presentaciones muy diferentes.
Wayne

Respuestas:

79

John Kruschke lanzó un libro a mediados de 2011 llamado Doing Bayesian Data Analysis: A Tutorial with R and BUGS . (En noviembre de 2014 se lanzó una segunda edición: Doing Bayesian Data Analysis, Segunda edición: Un tutorial con R, JAGS y Stan .) Es realmente introductorio. Sin embargo, si desea caminar desde estadísticas frecuentas a Bayes, especialmente con el modelado multinivel, le recomiendo Gelman y Hill.

John Kruschke también tiene un sitio web para el libro que tiene todos los ejemplos del libro en BUGS and JAGS. Su blog sobre estadísticas bayesianas también se vincula con el libro.

Jeromy Anglim
fuente
La sugerencia de @ Amir es un duplicado de esto. (El título completo del libro es "Análisis de datos bayesianos: un tutorial con R y BUGS"). Como libro verdaderamente introductorio, he hecho +1 en cada uno.
Wayne
actualizó el título y agregó un par de enlaces relacionados.
Jeromy Anglim
44
También voto por el libro de Kruschke. He examinado la mayoría de los libros enumerados en las respuestas y este es el que encontré más claro. OMI, es el libro de estadísticas más claro que he leído. Ayuda mucho que el código R esté disponible para que las fórmulas coincidan con el código. El autor comienza con ejemplos muy simples y se basa en ellos. Se necesita muy poco fondo. Todas las reseñas en Amazon son altamente favorables. El libro de Hoff es mi segundo favorito.
julieth
Jaja, me gusta la portada del libro: "¿Por qué los cachorros felices? (¡Como si los cachorros felices necesitaran justificación!")
Zhubarb
Mi voto también va al libro de Kruschke de 2010. Al tratar de aprender estadísticas bayesianas, probé varias de ellas, y esta dio en el blanco. Difícil.
Patrick Coulombe
55

Mi favorito es el "Análisis de datos bayesianos" de Gelman, et al.

Shane
fuente
28
Este es un libro introductorio para personas que ya tienen una buena cantidad de antecedentes estadísticos.
John Salvatier el
38
Empecé un doctorado en Estadística hace 9 meses y, para ser sincero, el BDA de Gelman todavía está por encima de mí, ¡así que no lo llamaría un texto introductorio!
Sean
55
-1, porque de acuerdo con múltiples comentarios y otras respuestas, esto no es introductorio.
naught101
66
@ naught101, ¿así que votaste sin saber el libro?
conjeturas
55
¡Los primeros cuatro o cinco capítulos son verdaderamente introductorios! así pertenece aquí.
kjetil b halvorsen
33

Replanteamiento estadístico , se lanzó hace solo unas semanas y, por lo tanto, todavía lo estoy leyendo, pero creo que es una adición muy agradable y fresca a los libros realmente introductorios sobre estadísticas bayesianas. El autor utiliza un enfoque similar al utilizado por John Kruschke en sus libros para cachorros ; explicaciones muy detalladas y detalladas, buenos ejemplos pedagógicos, también utiliza un enfoque computacional en lugar de matemático.

Las conferencias de Youtube y otros materiales también están disponibles desde aquí .

Código portado a Python / PyMC3

revs aloctavodia
fuente
44
+1 Estoy escuchando las conferencias ahora. Es muy entretenido y tiene un buen enfoque. El libro es excelente y te lleva de los conceptos básicos a los modelos jerárquicos. Solo supone que el lector es algo científico, tiene una comprensión razonable de las matemáticas (sin incluir el cálculo) y ha escuchado algunas cosas sobre estadísticas. Es el libro que desearía haber tenido. El orden en el que presenta las cosas y su sistema de apartados es brillante.
Wayne
1
Golpeé una pared tratando de leer el libro de Kruschke, donde comenzó a dar grandes saltos de lógica que simplemente no podía seguir. Afortunadamente, me encontré con el replanteamiento estadístico, que hasta ahora es el único libro que he encontrado que te brinda una comprensión realmente intuitiva del tema.
Brideau
Después de pasar por el hilo, intenté leer el primer capítulo de este libro, y me resultó muy difícil como hablante de inglés no nativo y como no científico . Primero tuve que pasar por las palabras como epistemología , idiosincrásica , luego hay oraciones largas, que tuve que leer dos veces / tres veces para entender lo que significa literalmente (olvídate de la conclusión de esas oraciones). Entonces, el primer ejemplo es sobre la evolución natural, que me pareció griego: número de sitios, número de alelos, neutralidad . El libro podría ser fácil para muchos, pero podría ser difícil para muchos
Gaurav Singhal
30

Otro voto para Gelman et al., Pero un segundo cercano para mí, siendo de la persuasión de aprender haciendo, es la "Computación Bayesiana con R" de Jim Albert .

ricos
fuente
55
Fuertemente de acuerdo. Ambos grandes libros. Comience con la computación bayesiana con R, luego obtenga Gelman et al.
PeterR
26

Sivia y Skilling, Análisis de datos: un tutorial bayesiano (2ed) 2006 246p 0198568320 books.goo :

Las conferencias de estadística han sido fuente de mucho desconcierto y frustración para generaciones de estudiantes. Este libro intenta remediar la situación exponiendo un enfoque lógico y unificado a todo el tema del análisis de datos. Este texto pretende ser una guía tutorial para estudiantes universitarios y estudiantes de investigación en ciencias e ingeniería ...

Sin embargo, no conozco las otras recomendaciones.

denis
fuente
3
Este libro es excelente. Es breve y práctico.
John Salvatier el
2
Creo que este es un texto introductorio mucho mejor que Gelman.
Sean
21

Para una introducción, recomendaría la Programación Probabilística y los Métodos Bayesianos para Hackers por Cam Davidson-Pilon, disponibles gratuitamente en línea.

De su descripción:

Una introducción a los métodos bayesianos y la programación probabilística desde un punto de vista de computación / comprensión primero, matemático segundo.

Es muy visual, corta directamente al valor y rellena detalles arenosos más tarde, tiene muchos ejemplos, tiene código interactivo (en IPython Notebook).

Piotr Migdal
fuente
44
Pensé que este libro en línea era difícil de seguir / mal escrito.
captain_ahab
2
Creo que el libro está bien.
SmallChess
1
Creo que este libro es una introducción fantástica para que los programadores tengan una excelente primera experiencia con estadísticas bayesianas
SARose
19

Recomiendo la polémica entretenida "Teoría de la probabilidad: la lógica de la ciencia" de ET Jaynes.

Este es un texto introductorio en el sentido de que no requiere (y de hecho prefiere) ningún conocimiento previo de estadística, pero eventualmente emplea matemáticas bastante sofisticadas. En comparación con la mayoría de las otras respuestas proporcionadas, este libro no es tan práctico o fácil de digerir, sino que proporciona la base filosófica de por qué querría emplear métodos bayesianos y por qué no usar enfoques frecuentistas. Es introductorio de una manera histórica y filosófica, pero no pedagógica.

Bogdanovist
fuente
8
Este es un libro brillante sobre el pensamiento bayesiano en lugar de aplicar métodos bayesianos. Creo que este es un buen texto complementario para algo que se centra más en cómo hacen los cálculos bayesianos.
probabilityislogic
3
Esa es una buena manera de decirlo. Creo que Sivia y Skilling es un texto complementario ideal para introducir los métodos en la práctica (que ya se ha sugerido en otra respuesta).
Bogdanovist
2
Entretenido, polémico y original, seguro, pero definitivamente no es un libro introductorio.
Xi'an
19

Soy ingeniero eléctrico y no estadístico. Pasé mucho tiempo para estudiar Gelman, pero no creo que uno pueda referirse a Gelman como introductorio. Mi profesor bayesiano-gurú de Carnegie Mellon está de acuerdo conmigo en esto. Tener el mínimo conocimiento de estadísticas y R y errores (como la manera fácil de HACER algo con la estadística bayesiana) Hacer un análisis de datos bayesianos: un tutorial con R y BUGS es un comienzo increíble. ¡Puedes comparar todos los libros ofrecidos fácilmente por su portada!

Actualización de 5 años más tarde: quiero agregar que quizás otra forma importante de aprender de una manera rápida (40 minutos) es revisar la documentación de una herramienta basada en la GUI de Bayesian Net como Netica 2 . Comienza con lo básico, lo guía a través de los pasos para construir una red basada en una situación y datos, y cómo ejecutar sus propias preguntas de un lado a otro para "obtenerlo".

Amir
fuente
1
Este es un duplicado de la respuesta de @ rosser anterior. Como libro verdaderamente introductorio, he hecho +1 en cada uno.
Wayne
16

Su enfoque no está estrictamente en las estadísticas bayesianas, por lo que carece de alguna metodología, pero la teoría de la información, la inferencia y los algoritmos de aprendizaje de David MacKay me hicieron comprender intuitivamente las estadísticas bayesianas mejor que otras, la mayoría lo hace muy bien, pero sentí que MacKay explicó por qué mejor.

Joe
fuente
66
Y está disponible para su descarga gratuita en la página de autores: inference.phy.cam.ac.uk/mackay/itila/book.html
PeterR
55
Al igual que Sivia, esto es muy bueno si tienes experiencia en física y puede ser difícil si no. No es una buena guía para ningún tipo de estadísticas sociales aplicadas (para eso use Gelman y Hill, o Gelman et al. Arriba) pero es realmente excelente para incitarlo a pensar realmente en los temas centrales.
conjugateprior
16

Los libros de Gelman son excelentes, pero no necesariamente introductorios, ya que suponen que ya conoce algunas estadísticas. Por lo tanto, son una introducción a la forma bayesiana de hacer estadísticas en lugar de a las estadísticas en general. Sin embargo, todavía les daría el visto bueno.

Como un libro introductorio de estadísticas / econometría que toma una perspectiva bayesiana, recomendaría la Econometría bayesiana de Gary Koop .

Graham Cookson
fuente
15

" Núcleo bayesiano: un enfoque práctico para las estadísticas bayesianas computacionales " por Marin y Robert, Springer-Verlag (2007).

"¿Por qué?": El autor explica el por qué de la elección bayesiana y qué tan bien. Es un libro práctico, pero escrito por uno de los mejores pensadores bayesianos vivos. No es exhaustivo Otros libros tienen ese objetivo. Recoge algunos temas que son relevantes, útiles y que iluminan los fundamentos.

Acerca de la "elección": si realmente quiere profundizar en la base bayesiana, "La elección bayesiana" de Xi'an es clara, profunda y esencial.

gappy
fuente
77
@ Xi'an y alegre, explique por qué se puede recomendar este libro. ¿Para quien es adecuado? ¿En qué sentido es "mejor"?
whuber
44
No quiero caer en la autopromoción. Bayesian Core es una entrada independiente a la inferencia bayesiana para los modelos más comunes y para los métodos computacionales (se proporcionan códigos R). Requiere algunos antecedentes en teoría de probabilidad que pueden ser demasiado para algunos lectores ... (Funciona bien con nuestros estudiantes de 4to y 5to año en Francia.)
Xi'an
14

Mi primer texto de pregrado favorito para estadísticas bayesianas es de Bolstad, Introducción a las estadísticas bayesianas . Si está buscando algo de nivel de posgrado, esto será demasiado elemental, pero para alguien que es nuevo en las estadísticas, esto es ideal.

Rob Lachlan
fuente
13

No sé por qué nadie ha mencionado el libro introductorio sobre bayesiano:

ingrese la descripción de la imagen aquí

Hay una versión PDF gratuita para el libro. El libro ofrece suficiente material para cualquiera que tenga muy poca experiencia en bayesiano. Introduce el concepto de distribución previa, distribución posterior, distribución beta, etc.

Pruébalo, es gratis.

http://greenteapress.com/thinkbayes/

SmallChess
fuente
9

Echa un vistazo a "La elección bayesiana" . Tiene el paquete completo: fundamentos, aplicaciones y computación. Claramente escrito

zen
fuente
No solo sería un "Bayesiano" sino más bien una "gran elección", si el manual de la solución estuviera disponible para el autoestudio. Parece que esto es solo para uso universitario ...
gwr
9

Al menos he echado un vistazo a la mayoría de estos en esta lista y ninguno es tan bueno como las nuevas Ideas Bayesianas y Análisis de Datos en mi opinión.

Editar: Es fácil comenzar inmediatamente a hacer análisis bayesianos mientras lee este libro. No solo modela la media de una distribución Normal con una varianza conocida, sino un análisis de datos real después de los primeros capítulos. Todos los ejemplos de código y datos están en el sitio web del libro. Cubre una cantidad decente de teoría, pero el enfoque son las aplicaciones. Muchos ejemplos sobre una amplia gama de modelos. Buen capítulo sobre no paramétricos bayesianos. Ejemplos de Winbugs, R y SAS. Lo prefiero a Hacer análisis de datos bayesianos (tengo ambos). La mayoría de los libros aquí (Gelman, Robert, ...) no son introductorios en mi opinión y, a menos que tengas a alguien con quien hablar, probablemente te queden más preguntas que respuestas. El libro de Albert no cubre suficiente material para sentirse cómodo analizando datos diferentes de los presentados en el libro (de nuevo, mi opinión).

Glen
fuente
2
"Bueno" en qué sentido?
whuber
Buen punto. Bueno como en el mejor libro de texto introductorio bayesiano. Creo que es "mejor" que el Análisis de datos bayesianos con R de Albert y encontré el Análisis de datos bayesianos de Gelman et al. para no ser suficiente como introducción. Sin embargo, después de aprender algo de material bayesiano, es una buena referencia.
Glen
7

Simplemente debo incluir MCMC en la práctica . Proporciona una excelente introducción a MCMC, quizás no tan general como otros libros mencionados, pero es excelente para obtener información e intuición. Yo recomendaría leer después (o en paralelo con) bayesiano Computación con R .

M. Tibbits
fuente
Mcmc no debería ser el foco de una introducción a las estadísticas bayesianas, en mi opinión. Creo que el muestreo de rechazo es más atractivo como una forma de entender cómo funciona el aprendizaje bayesiano. Además, los mínimos cuadrados son bayesianos (como es la máxima similitud), por lo que también representan una introducción más suave a las estadísticas bayesianas, en comparación con mcmc.
chanceislogic
2
Mi opinión es que mcmc debe evitarse y usarse como último recurso: simplemente toma demasiado tiempo en la mayoría de los casos (aunque trato con grandes conjuntos de datos donde todo es básicamente mle). mcmc es un "martillo de trineo" hasta cierto punto. También mcmc es un algoritmo para integración numérica. Nada más y nada menos. Debe recibir el mismo tratamiento introductorio que otros algoritmos, como el método de Laplace y el quadratre. De lo contrario, las personas desarrollarán una visión estrecha de lo que son las "estadísticas bayesianas".
chanceislogic
6

Si vienes de las ciencias físicas (física / astronomía), te recomendaría Análisis de datos lógicos bayesianos para las ciencias físicas: un enfoque comparativo con el soporte de Mathematica® por Gregory (2006).

Aunque la parte del título "con soporte de Mathematica®" está ahí solo para cuestiones comerciales (los usos del código de Mathematica son muy pobres), lo bueno de este libro es que es realmente una introducción al tema de las probabilidades y las estadísticas. Incluso tiene algunos capítulos sobre estadísticas frecuentistas. Sin embargo, una vez que lo pruebes, ve por el libro de Gelman et. Al que mucha gente te recomendó. La mayor parte del material en el libro de Gregory se toma a la ligera (si no, no sería una introducción): el libro de Gelman ha sido un verdadero despertar de Gregory para mí.

Néstor
fuente
El libro de Phil Gregory es, de hecho, una muy buena introducción, algo así como la introducción de Bolstad para personas con antecedentes matemáticos avanzados. Hay más recursos en el sitio web de Phil Gregory y también hay un suplemento que aborda los modelos jerárquicos y el tratamiento de datos faltantes.
gwr
6

Yo leo:

Gelman et al (2013). Análisis de datos bayesianos. CRC Press LLC. 3ra ed.

Hoff, Peter D (2009). Un primer curso en métodos estadísticos bayesianos. Textos Springer en Estadística.

Kruschke, Doing Bayesian Data Analysis: A Tutorial with R and Bugs, 2011. Academic Press / Elsevier.

y creo que el mejor para empezar es el libro de Kruschke. Es perfecto para un primer acercamiento al pensamiento bayesiano: los conceptos se explican muy claramente, no hay demasiadas matemáticas, ¡y hay muchos buenos ejemplos!

Gelman y col. es un gran libro, pero está más avanzado y sugiero leerlo después del de Kruschke.

Por el contrario, no me gustó el libro de Hoff porque es un libro introductorio, pero los conceptos (y el pensamiento bayesiano) no se explican de manera clara. Sugiero pasar por alto.

Stochazesthai
fuente
6

Si tuviera que elegir un solo texto para un principiante, sería

              Sivia DS and Skilling J (2006) book (see below). 

De todos los libros enumerados a continuación, se esfuerza más por dar una idea intuitiva de las ideas esenciales, pero aún requiere cierta sofisticación matemática de la página 1.

A continuación hay una lista de lecturas adicionales de mi libro, con comentarios sobre cada publicación.

Bernardo, JM y Smith, A, (2000) 4. Teoría bayesiana Una descripción rigurosa de los métodos bayesianos, con muchos ejemplos del mundo real.

Obispo, C (2006) 5. Reconocimiento de patrones y aprendizaje automático. Como sugiere el título, se trata principalmente del aprendizaje automático, pero proporciona una descripción lúcida y completa de los métodos bayesianos.

Cowan G (1998) 6. Análisis estadístico de datos. Una excelente introducción no bayesiana al análisis estadístico.

Dienes, Z (2008) 8. Comprender la psicología como ciencia: una introducción a la inferencia científica y estadística. Proporciona material tutorial sobre la regla de Bayes y un análisis lúcido de la distinción entre estadísticas bayesianas y frecuentistas.

Gelman A, Carlin J, Stern H y Rubin D. (2003) 14. Análisis de datos bayesianos. Una cuenta rigurosa y completa del análisis bayesiano, con muchos ejemplos del mundo real.

Jaynes E y Bretthorst G (2003) 18. Teoría de la probabilidad: la lógica de la ciencia. El clásico moderno del análisis bayesiano. Es integral y sabio. Su estilo discursivo lo hace largo (600 páginas) pero nunca aburrido, y está lleno de ideas.

Khan, S, 2012, Introducción al teorema de Bayes. Los videos de matemáticas en línea de Salman Khan son una buena introducción a varios temas, incluida la regla de Bayes.

Lee PM (2004) 27. Estadísticas bayesianas: una introducción. Un texto riguroso y completo con un estilo bayesiano estridente.

MacKay DJC (2003) 28. Teoría de la información, inferencia y algoritmos de aprendizaje. El clásico moderno sobre teoría de la información. Un texto muy legible que recorre muchos temas, casi todos los cuales hacen uso de la regla de Bayes.

Migon, HS y Gamerman, D (1999) 30. Inferencia estadística: un enfoque integrado. Una explicación directa (y claramente presentada) de la inferencia, que compara los enfoques bayesianos y no bayesianos. A pesar de ser bastante avanzado, el estilo de escritura es de naturaleza tutorial.

Pierce JR (1980) 34 2a edición. Una introducción a la teoría de la información: símbolos, señales y ruido. Pierce escribe con un estilo de escritura informal y tutorial, pero no deja de presentar los teoremas fundamentales de la teoría de la información.

Reza, FM (1961) 35. Una introducción a la teoría de la información. Un libro más riguroso y matemáticamente más riguroso que el libro anterior de Pierce, e idealmente debería leerse solo después de leer primero el texto más informal de Pierce.

Sivia DS y Skilling J (2006) 38. Análisis de datos: un tutorial bayesiano. Esta es una excelente introducción de estilo tutorial a los métodos bayesianos.

Spiegelhalter, D y Rice, K (2009) 36. Estadísticas bayesianas. Scholarpedia, 4 (8): 5230. http://www.scholarpedia.org/article/Bayesian_statistics Un resumen confiable y completo del estado actual de las estadísticas bayesianas.

Y aquí está mi libro, publicado en junio de 2013.

La regla de Bayes: una introducción tutorial al análisis bayesiano, Dr. James V Stone, ISBN 978-0956372840

El Capítulo 1 se puede descargar desde: http://jim-stone.staff.shef.ac.uk/BookBayes2012/BayesRuleBookMain.html

Descripción: descubierta por un matemático y predicador del siglo XVIII, la regla de Bayes es una piedra angular de la teoría de probabilidad moderna. En este libro ricamente ilustrado, se utiliza una variedad de ejemplos accesibles para mostrar cómo la regla de Bayes es en realidad una consecuencia natural del razonamiento de sentido común. La regla de Bayes se deriva utilizando representaciones gráficas intuitivas de probabilidad, y el análisis bayesiano se aplica a la estimación de parámetros utilizando los programas de MatLab proporcionados. El estilo de escritura tutorial, combinado con un glosario completo, lo convierte en una cartilla ideal para el principiante que desea familiarizarse con los principios básicos del análisis bayesiano.

ingrese la descripción de la imagen aquí

Jim Stone
fuente
4

No es estrictamente estadística bayesiana como tal, pero puedo recomendar encarecidamente "Un primer curso sobre aprendizaje automático" de Rogers y Girolami, que es esencialmente una introducción a los enfoques bayesianos para el aprendizaje automático. Está muy bien estructurado y es claro y está dirigido a estudiantes sin una sólida formación matemática. Esto significa que es una muy buena primera introducción a las ideas bayesianas. También hay código MATLAB / OCTAVE que es una buena característica.

Dikran Marsupial
fuente
4

Estadísticas bayesianas para científicos sociales . Phillips, Lawrence D. (1973), Thomas Crowell & Co. Es muy claro, muy accesible, no asume ningún conocimiento estadístico y, a diferencia de Bolstad, que encontré seco, tiene cierta personalidad.

rolando2
fuente
3

Este libro sugiere que está dirigido al nivel de pregrado de nivel de entrada

Bioestadística: una introducción bayesiana. Por George G Woodsworth.

Publicado por John Wiley & Sons

Graham Webster
fuente
2

Dado que el tipo de principiante no se especifica en la pregunta, aquí está mi consejo para los estadísticos principiantes:

Andrew B. Lawson y Emmanuel Lesaffre (2012): Bioestadística Bayesiana

Este libro fue utilizado en el primer año de nuestro maestro de ciencias estadísticas y me pareció relativamente fácil de entender para un tema tan difícil. Al igual que con la mayoría de los libros de "bioestadística", los ejemplos son principalmente biología clínica, pero los métodos no se limitan a aquellos útiles en la ciencia clínica. Habíamos tenido aproximadamente medio año de educación estadística antes de esto y además del teorema de Bayes, las estadísticas bayesianas aún no se habían introducido.

Lo que también es bueno es que las 649 diapositivas completas de las presentaciones adjuntas están disponibles en línea .

Frans Rodenburg
fuente