¿Hay ejemplos en los que los intervalos bayesianos creíbles son obviamente inferiores a los intervalos de confianza frecuentistas?

81

Una pregunta reciente sobre la diferencia entre la confianza y los intervalos creíbles me llevó a comenzar a releer el artículo de Edwin Jaynes sobre ese tema:

Jaynes, ET, 1976. "Intervalos de confianza versus intervalos bayesianos", en Fundamentos de teoría de la probabilidad, inferencia estadística y teorías estadísticas de la ciencia, WL Harper y CA Hooker (eds.), D. Reidel, Dordrecht, p. 175; ( pdf )

En resumen, Jaynes escribe:

... exhibimos las soluciones bayesianas y ortodoxas a seis problemas estadísticos comunes que involucran intervalos de confianza (incluidas las pruebas de significación basadas en el mismo razonamiento). En todos los casos, encontramos que la situación es exactamente la opuesta, es decir, el método bayesiano es más fácil de aplicar y produce los mismos o mejores resultados. De hecho, los resultados ortodoxos son satisfactorios solo cuando coinciden estrechamente (o exactamente) con los resultados bayesianos. Ningún ejemplo contrario se ha producido todavía.

(énfasis mío)

El documento fue publicado en 1976, por lo que tal vez las cosas han seguido adelante. Mi pregunta es, ¿hay ejemplos en los que el intervalo de confianza frecuentista sea claramente superior al intervalo creíble bayesiano (según el desafío implícito de Jaynes)?

Los ejemplos basados en suposiciones previas incorrectas no son aceptables ya que no dicen nada sobre la consistencia interna de los diferentes enfoques.

bayesian confidence-interval Dikran Marsupial
fuente

21

Bajo supuestos más bien moderados, (a) los procedimientos de estimación bayesianos son admisibles y (b) todos, o casi todos, los estimadores admisibles son bayesianos con respecto a algunos anteriores. Por lo tanto, no sorprende que un intervalo de confianza bayesiano "produzca los mismos resultados o mejores". Tenga en cuenta que mis declaraciones (a) y (b) son parte del análisis frecuentista de la teoría de la decisión racional. Donde los frecuentistas se separan de los bayesianos no se trata de las matemáticas o incluso de los procedimientos estadísticos, sino que se refiere al significado, la justificación y el uso correcto de un previo para cualquier problema en particular.

whuber

1

Entonces, ¿el comentario anterior implica que la respuesta a la pregunta del OP es 'No se pueden construir tales ejemplos'? O tal vez, ¿existe algún ejemplo patológico que viole los supuestos detrás de la admisibilidad?

1

@Srikant: Buena pregunta. Creo que el lugar para comenzar a investigar es una situación en la que hay estimadores admisibles no Bayes, no necesariamente uno "patológico", pero al menos uno que brinde alguna oportunidad de encontrar un "ejemplo contrario".

whuber

2

Añadiría algo de claridad a los "supuestos anteriores incorrectos ..." al afirmar que la respuesta bayesiana y la respuesta frecuentista deben hacer uso de la misma información ; de lo contrario, solo está comparando respuestas a dos preguntas diferentes. Gran pregunta sin embargo (+1 de mi parte)

Probabilidad

3

patología o no, probablemente sería el primero de su tipo. Estoy muy interesado en ver este ejemplo, ya que estas "patologías" generalmente tienen un buen elemento de aprendizaje para ellos

Probabilidad

52

Dije antes que tendría la oportunidad de responder la pregunta, así que aquí va ...

Jaynes estaba siendo un poco travieso en su trabajo en el sentido de que un intervalo de confianza frecuentista no se define como un intervalo en el que podríamos esperar que el verdadero valor de la estadística se encuentre con una alta probabilidad (especificada), por lo que no es demasiado sorprendente que las contradicciones surgen si se interpretan como si lo fueran. El problema es que esta es a menudo la forma en que se usan los intervalos de confianza en la práctica, ya que un intervalo muy probable que contenga el valor verdadero (dado lo que podemos inferir de nuestra muestra de datos) es lo que a menudo queremos.

La cuestión clave para mí es que cuando se hace una pregunta, es mejor tener una respuesta directa a esa pregunta. Si los intervalos bayesianos creíbles son peores que los intervalos de confianza frecuentistas depende de la pregunta que realmente se hizo. Si la pregunta que se hizo fue:

(a) "Dame un intervalo donde el verdadero valor de la estadística se encuentre con la probabilidad p", entonces parece que un frecuentador no puede responder esa pregunta directamente (y esto introduce el tipo de problemas que Jaynes discute en su artículo), pero Lata bayesiana, razón por la cual un intervalo creíble bayesiano es superior al intervalo de confianza frecuentista en los ejemplos dados por Jaynes. Pero esto es solo porque es la "pregunta equivocada" para el frecuentista.

(b) "Dame un intervalo en el que, si el experimento se repitiera una gran cantidad de veces, el verdadero valor de la estadística estaría dentro de p * 100% de tales intervalos", entonces la respuesta frecuente es justo lo que quieres. El Bayesiano también puede dar una respuesta directa a esta pregunta (aunque puede que no sea simplemente el intervalo creíble obvio). El comentario de Whuber sobre la pregunta sugiere que este es el caso.

Esencialmente, se trata de especificar correctamente la pregunta e interpretar adecuadamente la respuesta. Si desea hacer la pregunta (a), use un intervalo bayesiano creíble, si desea hacer la pregunta (b), use un intervalo de confianza frecuente.

Dikran Marsupial
fuente

2

Bien dicho, especialmente sobre qué pregunta responde realmente un CI. Sin embargo, en el artículo de Jaynes, menciona que los CI (y los procedimientos más frecuentes) están diseñados para funcionar bien "a largo plazo" (por ejemplo, ¿con qué frecuencia ve

o "para n grande la distribución es aproximadamente. .. "supuestos en los métodos frecuentas?), pero hay muchos procedimientos que pueden hacer esto. Creo que aquí es donde las técnicas frecuentistas (consistencia, sesgo, convergencia, etc., etc.) pueden usarse para evaluar varios procedimientos bayesianos que son difíciles de decidir.

n \to \infty

$n \rightarrow \infty$

chanceislogic

1

"Jaynes estaba siendo un poco travieso en su trabajo ..." Creo que lo que Jaynes estaba tratando de hacer (o lo que aprendí de él) es que los intervalos de confianza se utilizan para responder la pregunta a) en un gran número de casos (especularía que cualquiera que solo tenga entrenamiento frecuente utilizará los CI para responder la pregunta a) y pensarán que es una respuesta frecuente apropiada)

probabilidad

2

sí, por "un poco travieso" me refería a que Jaynes estaba haciendo el punto de una manera bastante agresiva (pero también entretenida) (o al menos así es como lo leí). Pero si no lo hubiera hecho, probablemente no habría tenido ningún impacto.

Dikran Marsupial

23

Este es un ejemplo "desarrollado" dado en un libro escrito por Larry Wasserman Todas las estadísticas en la página 216 ( 12.8 Fortalezas y debilidades de la inferencia bayesiana ). Básicamente proporciono lo que Wasserman no hace en su libro 1) una explicación de lo que realmente está sucediendo, en lugar de una línea de descarte; 2) la respuesta frecuente a la pregunta, que Wasserman convenientemente no da; y 3) una demostración de que la confianza equivalente calculada usando la misma información sufre del mismo problema.

En este ejemplo, declara la siguiente situación

$(X|\theta)\sim N(\theta,1)$
$(\theta)\sim N(0,1)$ $\tau^2$ $\tau^2=1$

$\theta$ $\theta$

... ¿Qué debemos concluir de todo esto? Lo importante es entender que los métodos bayesianos y frecuentistas están respondiendo diferentes preguntas. Para combinar creencias previas con datos de una manera basada en principios, use la inferencia bayesiana. Para construir procedimientos con rendimiento garantizado a largo plazo, como intervalos de confianza, utilice métodos frecuentas ... (p217)

Y luego continúa sin ninguna disección o explicación de por qué el método bayesiano funcionó aparentemente tan mal. Además, él no da una respuesta desde el enfoque frecuentista, solo una amplia declaración general sobre "el largo plazo": una táctica política clásica (enfatice su fortaleza + otras debilidades, pero nunca compare lo mismo por lo mismo).

$\tau=1$

$\theta\sim N(0,1)$ $\theta$ $p(\theta)\propto 1$ $Y\sim N(\theta,1)$ $X$ $\theta$

p (θ | Y) \propto p (θ) p (Y | θ) \propto e x p (- \frac{1}{2} (Y - θ)^{2})

$p(\theta|Y)\propto p(\theta)p(Y|\theta)\propto exp\Big(-\frac{1}{2}(Y-\theta)^2\Big)$

$(\theta|Y)\sim N(Y,1)$ $X$ $0$ $0$ $X$

$\theta$ $\overline{x}=\frac{0+X}{2}=\frac{X}{2}$

(\bar{x} | θ) \sim N (θ, \frac{1}{2})

$(\overline{x}|\theta)\sim N(\theta,\frac{1}{2})$

$(1-\alpha)\text{%}$

\frac{1}{2} X \pm Z_{α / 2} \frac{1}{\sqrt{2}}

$\frac{1}{2}X\pm Z_{\alpha/2}\frac{1}{\sqrt{2}}$

$(1-\alpha)\text{%}$ $\theta$

c X \pm \sqrt{c} Z_{α / 2}

$cX\pm \sqrt{c}Z_{\alpha/2}$

$c=\frac{\tau^{2}}{1+\tau^{2}}$ $\tau^{2}=1$ $c=\frac{1}{2}$

\frac{1}{2} X \pm Z_{α / 2} \frac{1}{\sqrt{2}}

$\frac{1}{2}X\pm Z_{\alpha/2}\frac{1}{\sqrt{2}}$

$p(\theta)\propto 1$ $X \pm Z_{\alpha/2})$

$X=0$ $0$ $\theta=4$ $X\leq 0$ $\theta=4$ . De hecho, puede mostrar que este ejemplo es básicamente equivalente a mostrar que la media aritmética tiene una función de influencia ilimitada.

$\tau=1$ $\tau^2=\frac{1}{N}$ $(N=0,1,2,3,\dots)$ $N$ $X$ $0$ $X$ $\theta$ $0$ $\theta$ $0$

probabilidadislogica
fuente

1

Gracias por el analisis. AFAICS ¿esto es solo un ejemplo de un problema causado por una suposición previa incorrecta (informativa) y no dice nada acerca de la consistencia interna del enfoque bayesiano?

Dikran Marsupial

1

0

$0$

θ

$\theta$

0

$0$

X

$X$

0

$0$

X

$X$

θ

$\theta$

θ

$\theta$

X

$X$

0

$0$

X

$X$

0

$0$

θ

$\theta$

θ

$\theta$

chanceislogic

10

Keith Winstein,

EDITAR: Solo para aclarar, esta respuesta describe el ejemplo dado en Keith Winstein Answer on the King con el cruel juego estadístico. Las respuestas bayesianas y frecuentes usan la misma información, que es ignorar la información sobre el número de monedas justas e injustas al construir los intervalos. Si no se ignora esta información, el frecuentador debe usar la Probabilidad Beta-Binomial integrada como la distribución de muestreo en la construcción del intervalo de Confianza, en cuyo caso el Intervalo de Confianza de Clopper-Pearson no es apropiado y necesita ser modificado. Un ajuste similar debería ocurrir en la solución bayesiana.

EDITAR: También he aclarado el uso inicial del clopper Pearson Interval.

EDITAR: por desgracia, mi alfa está al revés, y mi intervalo de clopper pearson es incorrecto. Mis más humildes disculpas a @whuber, quien correctamente señaló esto, pero con quien inicialmente no estuve de acuerdo e ignoré.

El CI que usa el método Clopper Pearson es muy bueno

$\theta$

[P r (B i (1, θ) \geq X) \geq \frac{α}{2}] \cap [P r (B i (1, θ) \leq X) \geq \frac{α}{2}]

$[Pr(Bi(1,\theta)\geq X)\geq\frac{\alpha}{2}] \cap [Pr(Bi(1,\theta)\leq X)\geq\frac{\alpha}{2}]$

$X=1$ $Pr(Bi(1,\theta)\geq 1)=\theta$ $Pr(Bi(1,\theta)\leq 1)=1$ $\theta\geq\frac{\alpha}{2}$ $1\geq\frac{\alpha}{2}$ $X=1$ $X=0$ $Pr(Bi(1,\theta)\geq 0)=1$ $Pr(Bi(1,\theta)\leq 0)=1-\theta$ $1-\theta \geq\frac{\alpha}{2}$ $\theta\leq 1-\frac{\alpha}{2}$ $X=0$ $[0.025,1]$ $X=1$ $[0,0.975]$ $X=0$

Por lo tanto, aquel que usa el intervalo de confianza Clopper Pearson nunca será decapitado. Al observar el intervalo, es básicamente todo el espacio de parámetros. ¡Pero el intervalo CP está haciendo esto al dar una cobertura del 100% a un intervalo supuestamente del 95%! Básicamente, los Frequentistas "hacen trampa" al dar un intervalo de confianza del 95% más cobertura de la que se le pidió que diera (aunque ¿quién no haría trampa en tal situación? Si fuera yo, yo daría todo [0, 1] intervalo). Si el rey pidiera un IC exacto del 95%, este método frecuentista fallaría independientemente de lo que realmente sucediera (¿tal vez existe uno mejor?).

¿Qué pasa con el intervalo bayesiano? (específicamente el Intervalo Bayesiano de la Desnidad Posterior Más Alta (HPD))

$(\theta|X)\sim Beta(1+X,2-X)$ $Pr(\theta \geq \theta^{e} | x=1) = 1-(\theta^{e})^{2}$ $Pr(\theta \leq \theta^{e} | x=0) = 1-(1-\theta^{e})^{2}$ $\theta^{e}=\sqrt{0.05}\approx 0.224$ $X=1$ $\theta^{e}= 1-\sqrt{0.05}\approx 0.776$ $X=0$ $(0,0.776)$ $X=0$ $(0.224,1)$ $X=1$

$\frac{1}{10^{12}+1}\times\frac{1}{10}\approx 0$

$0.1$

$0.025$ $0.975$

Para citar un intervalo de confianza genuino del 95%, entonces, por definición , debería haber algunos casos (es decir, al menos uno) del intervalo observado que no contienen el valor verdadero del parámetro . De lo contrario, ¿cómo se puede justificar la etiqueta del 95%? ¿No sería válido o inválido llamarlo un intervalo del 90%, 50%, 20% o incluso 0%?

No veo cómo simplemente decir "realmente significa 95% o más" sin una restricción complementaria es satisfactorio. Esto se debe a que la solución matemática obvia es todo el espacio de parámetros, y el problema es trivial. ¿y si quiero un CI del 50%? si solo limita los falsos negativos, todo el espacio de parámetros es un CI válido que utiliza solo este criterio.

$\text{100%}$ $X=0$ $100\times\frac{10^{12}+\frac{9}{10}}{10^{12}+1}\text{%} > \text{95%}$ $X=1$

Para terminar, parece un poco extraño pedir un intervalo de incertidumbre, y luego evaluar ese intervalo utilizando el valor verdadero del que no estábamos seguros. Una comparación "más justa", tanto para la confianza como para los intervalos creíbles, me parece la verdad de la declaración de incertidumbre dada con el intervalo .

probabilidadislogica
fuente

α

$\alpha$

1 - α

$1-\alpha$

10^{12}

$10^{12}$

α

$\alpha$

1 - α

$1-\alpha$

10^{12}

$10^{12}$

α

$\alpha$

1 - α

$1-\alpha$

1 \geq \frac{α}{2}

$1 \geq \frac{\alpha}{2}$

1 - θ

$1-\theta$

θ

$\theta$

¿Te refieres a la respuesta de @Keith Winstein?

whuber

@whuber, sí, me refiero a la respuesta de Keith Winstein.

chanceislogic

9

El problema comienza con tu oración:

Los ejemplos basados en suposiciones previas incorrectas no son aceptables ya que no dicen nada sobre la consistencia interna de los diferentes enfoques.

Sí, bueno, ¿cómo sabes que tu prior es correcto?

Tomemos el caso de la inferencia bayesiana en la filogenia. La probabilidad de al menos un cambio está relacionada con el tiempo evolutivo (longitud de rama t) por la fórmula

P = 1 - e^{- \frac{4}{3} u t}

$P=1-e^{-\frac{4}{3}ut}$

siendo usted la tasa de sustitución.

Ahora desea hacer un modelo de la evolución, basado en la comparación de secuencias de ADN. En esencia, intenta estimar un árbol en el que intenta modelar la cantidad de cambio entre las secuencias de ADN lo más cerca posible. La P anterior es la posibilidad de al menos un cambio en una rama determinada. Los modelos evolutivos describen las posibilidades de cambio entre dos nucleótidos, y de estos modelos evolutivos se deriva la función de estimación, ya sea con p como parámetro o con t como parámetro.

No tiene un conocimiento sensato y eligió un plano previo para p. Esto implica inherentemente una disminución exponencialmente previa para t. (Se vuelve aún más problemático si desea establecer una prioridad plana en t. La prioridad implícita en p depende en gran medida de dónde corte el rango de t).

En teoría, t puede ser infinito, pero cuando permite un rango infinito, el área bajo su función de densidad también es infinita, por lo que debe definir un punto de truncamiento para el anterior. Ahora, cuando elige el punto de truncamiento lo suficientemente grande, no es difícil demostrar que ambos extremos del intervalo creíble aumentan, y en cierto punto el valor verdadero ya no está contenido en el intervalo creíble. A menos que tenga una muy buena idea sobre lo anterior, no se garantiza que los métodos bayesianos sean iguales o superiores a otros métodos.

ref: Joseph Felsenstein: Inferir filogenias, capítulo 18

En una nota al margen, me estoy cansando de esa pelea bayesiana / frecuente. Ambos son marcos diferentes, y tampoco lo es la Verdad Absoluta. Los ejemplos clásicos de los métodos bayesianos pro invariablemente provienen del cálculo de probabilidad, y ningún frecuentista los contradecirá. El argumento clásico contra los métodos bayesianos implica invariablemente la elección arbitraria de un prior. Y los antecedentes razonables son definitivamente posibles.

Todo se reduce al uso correcto de cualquiera de los métodos en el momento adecuado. He visto muy pocos argumentos / comparaciones donde ambos métodos se aplicaron correctamente. Los supuestos de cualquier método están muy subestimados y con demasiada frecuencia se ignoran.

EDITAR: para aclarar, el problema radica en el hecho de que la estimación basada en p difiere de la estimación basada en t en el marco bayesiano cuando se trabaja con antecedentes no informativos (que en algunos casos es la única solución posible). Esto no es cierto en el marco de ML para la inferencia filogenética. No se trata de un error previo, es inherente al método.

Joris Meys
fuente

3

Es posible estar interesado en las diferencias entre las estadísticas bayesianas y frecuentistas sin que sea una disputa. Es importante conocer los defectos y los beneficios del enfoque preferido. Excluí específicamente a los anteriores ya que no es un problema con el marco, per se, sino solo una cuestión de GIGO. Lo mismo se aplica a las estadísticas de los frecuentistas, por ejemplo, suponiendo una distribución paramétrica incorrecta de los datos. Eso no sería una crítica a la metodología frecuentista, solo al método particular. Por cierto, no tengo ningún problema en particular con antecedentes inadecuados.

Dikran Marsupial

3

Primer ejemplo de Jaynes: Ningún estadístico en su sano juicio usará una prueba F y una prueba T en ese conjunto de datos. Aparte de eso, compara una prueba de dos colas con P (b> a), que no es la misma hipótesis probada. Entonces su ejemplo no es justo, lo que esencialmente admite más adelante. Además de eso, no puedes comparar "los marcos". ¿De qué estamos hablando entonces? ML, REML, LS, métodos penalizados, ...? intervalos para coeficientes, estadísticas, predicciones, ...? También puede preguntar si el servicio luterano es equivalente o superior a los servicios chiítas. Hablan del mismo Dios.

Joris Meys

¿Podría aclarar cuáles son sus datos y cuáles son los parámetros que estaría estimando en su modelo? Estoy un poco confundido sobre este punto. Además, ¿podría usar $$ en lugar de $ para centrar la fórmula? El tamaño de la fuente es muy pequeño en este momento.

@Srikant: El ejemplo en el libro de Felsensteins se basa en un modelo de Jukes-Cantor para la evolución del ADN. Los datos son secuencias de ADN. Desea estimar la probabilidad de cambio en su secuencia, que está relacionada con la longitud de su rama en función de la fórmula mencionada. Las longitudes de las ramas se definen como el tiempo de evolución: cuanto mayor es la posibilidad de cambios, más tiempo pasa entre el ancestro y el estado actual. Lo siento, pero no puedo resumir toda la teoría detrás de ML e inferencia filogenética bayesiana en una sola publicación. Felsenstein necesitaba medio libro para eso.

Joris Meys

Supongo que solo quería que aclarara qué variables en su ecuación eran datos y cuáles eran el parámetro, ya que no estaba claro en su publicación, especialmente para alguien como yo que es un extraño. Todavía estoy perdido, pero creo que necesitaría leer el libro para obtener más información.

8

Los intervalos de confianza frecuentes limitan la tasa de falsos positivos (errores de Tipo I) y garantizan que su cobertura estará limitada por debajo del parámetro de confianza, incluso en el peor de los casos. Los intervalos de credibilidad bayesianos no.

Entonces, si lo que le importa son los falsos positivos y necesita unirlos, los intervalos de confianza son el enfoque que querrá usar.

Por ejemplo, digamos que tienes un rey malvado con una corte de 100 cortesanos y cortesanas y él quiere jugar un cruel juego estadístico con ellos. El rey tiene una bolsa de un billón de monedas justas, más una moneda injusta cuya probabilidad de cara es del 10%. Él va a realizar el siguiente juego. Primero, sacará una moneda de manera uniforme al azar de la bolsa.

Luego, la moneda se pasará por una sala de 100 personas y cada una se verá obligada a hacer un experimento en privado, y luego cada persona indicará un intervalo de incertidumbre del 95% sobre lo que creen que es la probabilidad de cara de la moneda.

Cualquier persona que dé un intervalo que represente un falso positivo, es decir, un intervalo que no cubra el verdadero valor de la probabilidad de cabezas, será decapitado.

Si quisiéramos expresar la función de distribución de probabilidad / a posteriori del peso de la moneda, entonces, por supuesto, un intervalo de credibilidad es lo que hace eso. La respuesta siempre será el intervalo [0.5, 0.5] independientemente del resultado. Incluso si lanzas cero caras o una cara, aún dirás [0.5, 0.5] porque es muchísimo más probable que el rey haya sacado una moneda justa y tuvieras un día de 1/1024 obteniendo diez caras seguidas , que el rey sacó la moneda injusta.

¡Así que esta no es una buena idea para los cortesanos y cortesanas! Porque cuando se saca la moneda injusta, toda la sala (las 100 personas) se equivocarán y todos serán decapitados.

En este mundo donde lo más importante son los falsos positivos, lo que necesitamos es una garantía absoluta de que la tasa de falsos positivos será inferior al 5%, sin importar qué moneda se extraiga. Luego, debemos usar un intervalo de confianza, como Blyth-Still-Casella o Clopper-Pearson, que funcione y proporcione al menos un 95% de cobertura, independientemente del valor real del parámetro, incluso en el peor de los casos . Si todos usan este método en su lugar, no importa qué moneda se extraiga, al final del día podemos garantizar que el número esperado de personas equivocadas no será más de cinco.

Entonces, el punto es: si su criterio requiere limitar los falsos positivos (o, de manera equivalente, garantizar la cobertura), debe seguir un intervalo de confianza. Eso es lo que hacen. Los intervalos de credibilidad pueden ser una forma más intuitiva de expresar incertidumbre, pueden funcionar bastante bien a partir de un análisis frecuente, pero no van a proporcionar el límite garantizado de falsos positivos que obtendrá cuando vaya a pedirlo.

(Por supuesto, si también te importan los falsos negativos, necesitarás un método que también garantice esos ...)

Keith Winstein
fuente

66

Sin embargo, el ejemplo particular es injusto ya que el enfoque frecuentista puede considerar los costos relativos de los costos falsos positivos y falsos negativos, pero el enfoque bayesiano no lo es. Lo correcto de acuerdo con la teoría de decisión bayesiana es dar un intervalo de [0,1] ya que no hay penalización asociada con falsos negativos. Por lo tanto, en una comparación de marcos de igual a igual, ninguno de los bayesianos sería decapitado tampoco. Sin embargo, el problema de limitar los falsos positivos me da una dirección para buscar una respuesta al desafío de Jaynes.

Dikran Marsupial

1

Tenga en cuenta también que si la moneda seleccionada se voltea con la suficiente frecuencia, entonces, eventualmente, el intervalo de confianza bayesiano se centrará en la frecuencia a largo plazo de las caras para la moneda en particular en lugar de en la anterior. Si mi vida dependiera del intervalo que contiene la verdadera probabilidad de una cabeza, ¡no lanzaría la moneda una sola vez!

Dikran Marsupial

1

Habiendo pensado un poco más sobre esto, este ejemplo no es válido ya que el criterio utilizado para medir el éxito no es el mismo que el que implica la pregunta planteada por el rey. El problema está en "no importa qué moneda se extraiga", una cláusula diseñada para disparar cualquier método que utilice el conocimiento previo sobre la rareza de la moneda sesgada. Resulta que Bayesains también puede derivar límites (por ejemplo, límites de PAC) y, si se lo pidieran, lo habría hecho, y sospecho que la respuesta sería la misma que el intervalo Clopper-Pearson. Para ser una prueba justa, se debe dar la misma información a ambos enfoques.

Dikran Marsupial

1

Dikran, no es necesario que haya "bayesianos" y "frequentistas". ¡No son escuelas de filosofía incompatibles a las que se puede suscribir solo una! Son herramientas matemáticas cuya eficacia se puede demostrar en el marco común de la teoría de la probabilidad. Mi punto es que SI el requisito es un límite absoluto en falsos positivos sin importar el verdadero valor del parámetro, ENTONCES un intervalo de confianza es el método que lo logra. Por supuesto, todos estamos de acuerdo en los mismos axiomas de probabilidad y la misma respuesta se puede derivar de muchas maneras.

Keith Winstein

1

[0.1, 0.5]

$[0.1,0.5]$

0.1

$0.1$

0.5

$0.5$

100% \geq 95%

$\text{100%} \geq \text{95%}$

chanceislogic

0

¿Hay ejemplos en los que el intervalo de confianza frecuentista es claramente superior al intervalo bayesiano creíble (según el desafío implícito de Jaynes)?

$\theta$ $10$ $\theta$ $1$ $\theta$

Bernardo propuso una "referencia previa" para ser utilizada como un estándar para la comunicación científica [e incluso un "intervalo creíble de referencia" ( Bernardo - regiones creíbles objetivas )]. Asumiendo que este es "el" enfoque bayesiano, ahora la pregunta es: ¿cuándo es un intervalo superior a otro? Las propiedades frecuentistas del intervalo bayesiano no siempre son óptimas, pero tampoco lo son las propiedades bayesianas del "intervalo frecuentista"
(por cierto, ¿cuál es "el" intervalo frecuentista?)

Stéphane Laurent
fuente

Estoy especulando, pero sospecho que esta respuesta tendrá el mismo trato que otros. Alguien simplemente argumentará que se trata de una mala elección de los procedimientos previos y no de alguna debilidad inherente de los procedimientos bayesianos, que en mi opinión intenta en parte evadir una crítica válida.

cardenal

El comentario de @ cardinal es bastante correcto. Lo anterior aquí está apagado por un orden de magnitud, lo que hace que la crítica sea muy débil. La información previa también es importante para los frecuentistas; lo que se sabe a priori debe determinar, por ejemplo, qué estimaciones y estadísticas de prueba se utilizan. Si estas elecciones se basan en información que está mal por un orden de magnitud, se deben esperar resultados pobres; ser bayesiano o frecuentista no entra en juego.

invitado

Mi "ejemplo" no fue la parte importante de mi respuesta. Pero, ¿cuál es una buena elección de prior? ¿Es fácil imaginar un prior cuyo soporte contiene el parámetro verdadero pero el posterior no, por lo que el intervalo frecuentista es superior?

Stéphane Laurent

Cardinal e guest son correctos, mi pregunta incluyó explícitamente "Los ejemplos basados en suposiciones previas incorrectas no son aceptables ya que no dicen nada sobre la consistencia interna de los diferentes enfoques". por una buena razon. Las pruebas frecuentes pueden basarse en suposiciones incorrectas y bayesianas (el marco bayesiano establece las suposiciones más explícitamente); La pregunta es si el marco tiene debilidades. Además, si el valor verdadero estaba en el anterior, pero no en el posterior, eso implicaría que las observaciones descartaron la posibilidad de que el valor verdadero sea correcto.

Dikran Marsupial

1

Tal vez debería editar mi respuesta y eliminar mi "ejemplo"; esta no es la parte seria de mi respuesta. Mi respuesta fue principalmente sobre el significado del "enfoque" bayesiano. ¿Cómo se llama el enfoque bayesiano? Este enfoque requiere la elección de un previo subjetivo o utiliza una forma automática para seleccionar un previo no informativo? En el segundo caso, es importante mencionar el trabajo de Bernardo. En segundo lugar, no ha definido la relación de "superioridad" entre intervalos: ¿cuándo dice que un intervalo es superior a otro?

Stéphane Laurent

¿Hay ejemplos en los que los intervalos bayesianos creíbles son obviamente inferiores a los intervalos de confianza frecuentistas?

Respuestas: