Paradigmas bayesianos objetivos versus subjetivos

12

¿Cuál es la diferencia entre paradigmas bayesianos objetivos y subjetivos?
¿Qué objetos o procedimientos definen o interpretan de manera diferente?
¿Hay alguna diferencia en su elección de métodos?

Richard Hardy
fuente
1
+1 Mi impresión, que no es realmente autorizada, es que ser un Bayesiano "objetivo" tiende a correlacionarse con recetas automáticas para encontrar anteriores como el anterior de Jeffrey, mientras que las "subjetivas" permiten que sus creencias privadas dicten la elección del anterior. También podría ser el caso, pero estoy aún menos seguro de eso, es que para el primer grupo es más probable que veamos una discusión sobre el parámetro "verdadero" y si algún estimador está "cerca" de él.
Christoph Hanck
1
@ ChristophHanck, gracias por tu aporte. Espero que alguien con conocimientos pueda armar un buen resumen / resumen y publicarlo como respuesta, luego veremos cómo encajan sus puntos.
Richard Hardy
1
También estoy un poco confundido acerca de si aquí el objetivo se refiere al empírico (aprendizaje previo de los datos como ARD / SBL) u objetivo en el sentido de que da resultados idénticos a los resultados frecuentes.
boomkin
1
@boomkin, AFAIK hay escuelas de pensamiento que se identifican con "bayesianos subjetivos" y "bayesianos objetivos". Me gustaría conocer sus ideas principales y las diferencias entre el primero y el segundo. El aprendizaje previo de los datos es una característica que los dos pueden o no tratar de manera diferente.
Richard Hardy
2
+1 pero, creo que es mejor no usar el término 'Bayesiano' como un adjetivo nominalizado. El adjetivo 'Bayesiano' clasifica los métodos, no las personas. La colocación de estadísticos en una falsa dicotomía "como si uno se adhiriera a una sola y única escuela de pensamiento de varias escuelas de pensamiento" puede crear dificultades para responder la pregunta. Podría ser una pregunta capciosa que no puede responderse porque se dice "incorrectamente" en primer lugar (utilizando una premisa incorrecta sobre la existencia de bayesianos).
Sextus Empiricus

Respuestas:

3

Se vuelve aún más confuso por el hecho de que existe una clase de "subjetivismo" que se basa en la obtención previa de expertos, y esta variación particular tiene que encajar cuidadosamente en la categorización filosófica de paradigmas. Trataré de aclarar este tema estableciendo algunas formas diferentes de interpretar a menudo el "subjetivismo", y luego estableciendo amplias áreas de acuerdo entre los bayesianos y las áreas donde hay una divergencia en los enfoques filosóficos y prácticos. Espero que haya otros que no estén de acuerdo con mis propios puntos de vista sobre esto, pero espero que esto sea un buen punto de partida para una discusión clara.


Subjetivismo débil: en esta interpretación, el término "subjetivo" se utiliza en su sentido más débil, lo que significa simplemente que la probabilidad encapsula las creencias racionales de un sujeto. (Algunas personas, como yo, prefieren usar el término "epistémico" para este concepto, ya que en realidad no requiere subjetividad en el sentido más fuerte).

Subjetivismo fuerte: en esta interpretación, el término "subjetivo" se usa en su sentido más fuerte, lo que significa que el subjetivismo débil tiene, y además, la creencia del sujeto carece de cualquier justificación "objetiva" externa (es decir, dos o más sujetos diferentes podrían tener diferentes creencias, y ninguno sería considerado más o menos incorrecto que los demás).


En el análisis bayesiano, generalmente la distribución de muestreo elegida tiene una justificación objetiva basada en cierta comprensión del mecanismo de muestreo. Sin embargo, rara vez hay información disponible relacionada con el parámetro, que no sea en los datos de la muestra. Esto da lugar a tres grandes paradigmas en las estadísticas bayesianas, que corresponden a diferentes formas de determinar la distribución previa.

Paradigma bayesiano subjetivo: este paradigma concuerda con el subjetivismo débil, y además sostiene que cualquier conjunto de creencias probabilísticas es igualmente válido. Mientras los sujetos usen la actualización Bayesiana para nuevos datos, es legítimo usar cualquier previo. Bajo este paradigma, lo anterior no requiere ninguna justificación objetiva. En este paradigma hay un enfoque en revelar el uso previo y luego mostrar cómo se actualiza con nuevos datos. Es común en este método incluir análisis de sensibilidad que muestren creencias posteriores bajo un rango de creencias previas.

Objetivo paradigma bayesiano:Este paradigma también está de acuerdo con el subjetivismo débil, pero prefiere restringir adicionalmente las creencias previas (antes de la inclusión de cualquier dato) para que sean objetivamente "no informativas" sobre el parámetro. En este paradigma, se supone que lo anterior refleja con precisión la falta de información disponible sobre el parámetro, fuera de los datos. Esto generalmente implica adoptar alguna teoría sobre cómo establecer lo anterior (p. Ej., Los antecedentes de referencia de Jeffrey, Jaynes, Bernardo, etc.) Este paradigma sostiene que es preferible un conjunto de creencias probabilísticas si se basa en una creencia previa objetivamente determinado y poco informativo sobre los parámetros en el problema de interés. Está de acuerdo en que cualquier conjunto de creencias probabilísticas es consistente con los criterios de racionalidad subyacentes al análisis bayesiano, pero considera que las creencias basadas en antecedentes "malos" (demasiado informativos sobre el parámetro desconocido) son peores que las basadas en antecedentes "buenos". En este paradigma, el prior se elige de una clase poco informativa, y luego se actualiza con nuevos datos para dar una respuesta objetiva al problema.

Paradigma bayesiano experto previo:Este método a menudo se ve como parte del paradigma subjetivo, y generalmente no se identifica por separado, pero lo considero un paradigma separado porque tiene elementos de cada punto de vista. Este paradigma concuerda con el subjetivismo débil, pero al igual que el paradigma bayesiano objetivo, no considera que todos los antecedentes sean igualmente válidos. Este paradigma trata los "antecedentes" actuales como posteriores de experiencias de vida anteriores, y por lo tanto considera que las creencias previas de los expertos en la materia son superiores a las creencias anteriores de los no expertos. También reconoce que esas creencias probablemente se basan en datos que no se han registrado sistemáticamente, y no se basa en el uso sistemático de la teoría de la probabilidad, por lo que no es posible descomponer estos anteriores expertos existentes en un previo original no informativo y los datos que este experto observó. (Y de hecho, en ausencia de un uso sistemático de la teoría de la probabilidad, el experto actual "anterior" probablemente ni siquiera sea consistente con la actualización bayesiana.) En este paradigma, la opinión actual "subjetiva" del experto se trata como una valiosa encapsulación del conocimiento de la materia, que se trata como un primitivo previo. En este paradigma, el analista busca obtener al experto antes a través de algunas pruebas de creencia previa, y luego el prior se formula como la mejor opción para esa creencia experta (asegurándose de que la creencia experta no haya sido contaminada por el conocimiento del presente datos). La creencia "subjetiva" del experto se trata así como una encapsulación "objetiva" del conocimiento de la materia a partir de datos anteriores. ) En este paradigma, la opinión actual "subjetiva" del experto se trata como una valiosa encapsulación del conocimiento de la materia, que se trata como un primitivo previo. En este paradigma, el analista busca obtener al experto antes a través de algunas pruebas de creencia previa, y luego el prior se formula como la mejor opción para esa creencia experta (asegurándose de que la creencia experta no haya sido contaminada por el conocimiento del presente datos). La creencia "subjetiva" del experto se trata así como una encapsulación "objetiva" del conocimiento de la materia a partir de datos anteriores. ) En este paradigma, la opinión actual "subjetiva" del experto se trata como una valiosa encapsulación del conocimiento de la materia, que se trata como un primitivo previo. En este paradigma, el analista busca obtener al experto antes a través de algunas pruebas de creencia previa, y luego el prior se formula como la mejor opción para esa creencia experta (asegurándose de que la creencia experta no haya sido contaminada por el conocimiento del presente datos). La creencia "subjetiva" del experto se trata así como una encapsulación "objetiva" del conocimiento de la materia a partir de datos anteriores. y luego lo anterior se formula como la mejor opción para esa creencia experta (cuidando de asegurar que la creencia experta no haya sido contaminada por el conocimiento de los datos presentes). La creencia "subjetiva" del experto se trata así como una encapsulación "objetiva" del conocimiento de la materia a partir de datos anteriores. y luego lo anterior se formula como la mejor opción para esa creencia experta (cuidando de asegurar que la creencia experta no haya sido contaminada por el conocimiento de los datos presentes). La creencia "subjetiva" del experto se trata así como una encapsulación "objetiva" del conocimiento de la materia a partir de datos anteriores.

Diferencias en el método: en términos de método, el paradigma bayesiano objetivo difiere del paradigma subjetivo en la medida en que el primero restringe los prioritarios permitidos (ya sea a un prior único o una clase muy pequeña de previos similares), mientras que el último no limita el permisible priors. En el enfoque objetivo bayesiano, el prior está limitado por las teorías de representar un prior "no informativo". El paradigma de experto previo adopta un enfoque diferente y en su lugar identifica a una o más personas que son expertas y sus creencias previas.


Una vez que comprendamos este sentido diferente de los diferentes paradigmas en las estadísticas bayesianas, podemos establecer algunas áreas de amplio acuerdo y áreas donde hay desacuerdo. En realidad, a pesar de las diferencias en el método, hay más acuerdo sobre las teorías subyacentes de lo que generalmente se aplica.

Amplio acuerdo sobre el subjetivismo débil: existe una gran literatura en las estadísticas bayesianas que muestra que los "axiomas" de probabilidad pueden derivarse de los desideratos preliminares relacionados con la toma racional de decisiones. Esto incluye argumentos relacionados con la coherencia de creencias dinámicas (ver, por ejemplo, Epstein y Le Breton 1993 ), argumentos atractivos para el teorema del libro holandés (ver, por ejemplo, Lehmann 1955 , Hajek 2009) Los bayesianos de todos estos paradigmas coinciden ampliamente en que la probabilidad debe interpretarse epistémicamente, como una referencia a las creencias de un sujeto, restringidas por las restricciones de racionalidad inherentes a los axiomas de la probabilidad. Estamos de acuerdo en que uno debe usar las reglas de probabilidad para restringir las creencias sobre la incertidumbre para que sean racionales. Esto implica que las creencias sobre la incertidumbre requieren una actualización bayesiana frente a los nuevos datos, pero no impone ninguna restricción adicional (es decir, sin más, no dice que ningún prior sea mejor que cualquier otro anterior). Los tres paradigmas anteriores están de acuerdo en esto.

Existe un amplio acuerdo de que existen reglas más o menos "objetivas" para los previos que están disponibles si desea utilizarlos :Existe una gran cantidad de literatura en las estadísticas bayesianas que muestran cómo se pueden desarrollar los antecedentes "no informativos" que están determinados por el problema de muestreo y encapsulan la ausencia de mucho conocimiento sobre el parámetro en cuestión. Digo "aproximadamente" porque hay varias teorías en competencia aquí que a veces se corresponden pero a veces difieren ligeramente (por ejemplo, Jeffrey's, Jaynes, referencias anteriores, clases de Walley de anteriores imprecisas, etc.), y también hay algunas paradojas difíciles que pueden ocurrir. El problema más difícil aquí es que es difícil hacer un previo "no informativo" para un parámetro continuo que puede estar sujeto a transformaciones no lineales (dado que la "desinformatividad" idealmente debería ser invariable a las transformaciones). Nuevamente, estos son teoremas de probabilidad, y todos los paradigmas están de acuerdo con su contenido. Los bayesianos objetivos tienden a ver esta teoría como lo suficientemente buena como para dar antecedentes superiores, mientras que los bayesianos subjetivos y los bayesianos expertos previos tienden a ver la teoría como insuficiente para establecer la superioridad de estos antecedentes. En otras palabras, existe un amplio acuerdo de que estas reglas objetivas existen y se pueden usar, pero hay desacuerdo sobre cuán buenas son.

Existe un desacuerdo sobre la importancia de tener una respuesta única: los objetivos bayesianos están motivados por la preferencia de que un problema estadístico con datos fijos y una función de probabilidad fija conduzca a una creencia posterior determinada de forma única (o al menos un pequeño número de creencias posteriores permitidas) eso varía muy poco). Esta preferencia generalmente es parte de una preferencia más amplia por tener procedimientos científicos que den una respuesta única cuando se aplican a conjuntos fijos de condiciones objetivas. Por el contrario, tanto los bayesianos subjetivos como los bayesianos expertos previos creen que esto no es especialmente importante, y en general creen que este enfoque en un posterior determinado de manera única es realmente engañoso.

Existe un amplio acuerdo de que el público no conoce bien los posteriores bayesianos: todos los paradigmas coinciden en que el público en general no conoce bien la mecánica básica de cómo el análisis bayesiano pasa de lo anterior a lo posterior. Objetivo A los bayesianos a veces les preocupa que dar más de una respuesta permitida para el posterior sea confuso para las personas. A los bayesianos subjetivos les preocupa que no dar más de una respuesta permitida para el posterior sea engañoso para las personas.


Ben - Restablece a Monica
fuente
¡Gracias por una respuesta tan voluminosa y elocuente! Parece que los antecedentes son las principales raíces del desacuerdo. ¿Es asi? ¿Existe algún desacuerdo / variación sobre, por ejemplo, la definición / interpretación de la probabilidad? ¿O qué significa que un parámetro sea una variable aleatoria? Olvidé incluir esto en el OP, pero ¿podrías incluir algunos nombres que se puedan asignar más o menos claramente a un paradigma dado? Sé que no todos los estadísticos se pueden poner en una u otra casilla, pero debe haber algunos padres fundadores o defensores devotos actuales en cada campo.
Richard Hardy
La raíz del desacuerdo es definitivamente sobre la conveniencia / indeseabilidad de las inferencias objetivas (es decir, únicas o cercanas a únicas) y el alcance de lo que constituye un "bien" anterior. No creo que haya un desacuerdo más amplio sobre la interpretación de la probabilidad o el significado de una variable aleatoria. En mi opinión, casi todos los bayesianos están de acuerdo con la interpretación epistémica. Como la mayor parte de la base de los paradigmas se establece en teoremas, donde no hay lugar para desacuerdos sobre la validez, los únicos desacuerdos son sobre el valor y la conveniencia de diferentes métodos.
Ben - Restablece a Mónica el
Para una visión general de todo, vea "la Biblia" (Bernardo y Smith 2001, Bayesian Theory). Paradigma bayesiano subjetivo: véase, por ejemplo, Savage, Lindley, Goldstein. Objetivo paradigma bayesiano: véase, por ejemplo, Bernardo, Berger, Jaynes, Jeffreys. Paradigma de opinión de expertos: mezcla ecléctica de autores, pero tal vez ver, por ejemplo, Choi, Sun. También vale la pena leer a Walley sobre un análisis bayesiano impreciso, que utiliza clases fijas de antecedentes y está efectivamente en la categoría objetiva.
Ben - Restablece a Mónica el
¡Muchas gracias! Tengo suerte de tenerte en mi caso.
Richard Hardy
3
+1 Buena respuesta. Una cosa que parece faltar es alguna mención de los métodos "empíricos de Bayes" en los que se estima lo anterior a partir de los datos mismos. Siento que esta debería ser una categoría completamente separada junto con tus antecedentes subjetivos, objetivos objetivos (también conocidos como no informativos) y conocimientos previos expertos.
ameba dice Reinstate Monica