¿Somos frecuentistas realmente solo bayesianos implícitos / inconscientes?

15

Para un problema de inferencia dado, sabemos que un enfoque bayesiano generalmente difiere tanto en la forma como en los resultados de un enfoque fequentista. Los frecuentes (por lo general me incluyen a mí) a menudo señalan que sus métodos no requieren un previo y, por lo tanto, están más "basados ​​en datos" que "basados ​​en el juicio". Por supuesto, Bayesian puede señalar antecedentes no informativos o, siendo pragmáticos, simplemente usar un previo realmente difuso.

Mi preocupación, especialmente después de sentir una pizca de satisfacción con mi objetividad fequentista, es que quizás mis métodos supuestamente "objetivos" puedan formularse en un marco bayesiano, aunque con algún modelo inusual de datos y anteriores. En ese caso, ¿estoy simplemente felizmente ignorante del absurdo anterior y modelo que implica mi método frecuentista ?

Si un bayesiano señalara tal formulación, creo que mi primera reacción sería decir "Bueno, eso es bueno que puedas hacer eso, ¡pero no es así como pienso en el problema!". Sin embargo, a quién le importa cómo lo pienso , o cómo lo formulo. Si mi procedimiento es estadísticamente / matemáticamente equivalente a algún modelo bayesiano, entonces estoy implícitamente ( ¡ inconscientemente !) Realizando inferencia bayesiana.

Pregunta real a continuación

Esta realización socava sustancialmente cualquier tentación de ser presumido. Sin embargo, no estoy seguro de si es cierto que el paradigma bayesiano puede acomodar todos los procedimientos frecuentistas (una vez más, siempre que el bayesiano elija un previo y una probabilidad adecuados) . Sé que lo contrario es falso.

Pregunto esto porque recientemente publiqué una pregunta sobre inferencia condicional, que me llevó al siguiente documento: aquí (ver 3.9.5,3.9.6)

Señalan el conocido resultado de Basu de que puede haber más de una estadística auxiliar, lo que plantea la pregunta de qué "subconjunto relevante" es más relevante. Peor aún, muestran dos ejemplos de dónde, incluso si tiene una estadística auxiliar única, no elimina la presencia de otros subconjuntos relevantes.

Continúan concluyendo que solo los métodos bayesianos (o métodos equivalentes a ellos) pueden evitar este problema, permitiendo la inferencia condicional sin problemas.


Puede que no sea el caso de las Estadísticas Bayesianas Estadísticas Fequentistas - esa es mi pregunta para este grupo aquí. Pero parece que una elección fundamental entre los dos paradigmas radica menos en la filosofía que en los objetivos: ¿necesita una alta precisión condicional o un bajo error incondicional ?

  • La alta precisión condicional parece aplicable cuando tenemos que analizar una instancia singular: queremos tener razón para ESTA inferencia particular, a pesar de que este método puede no ser apropiado o preciso para el próximo conjunto de datos (hipercondicionalidad / especialización).

  • Un error incondicional bajo es apropiado cuando estamos dispuestos a hacer inferencias condicionalmente incorrectas en algunos casos, siempre y cuando nuestro error a largo plazo se minimice o controle. Honestamente, después de escribir esto, no estoy seguro de por qué querría esto a menos que estuviera atado por el tiempo y no pudiera hacer un análisis bayesiano ... hmmm.

Tiendo a favorecer la inferencia fequentista basada en la probabilidad, ya que obtengo alguna condicionalidad (asintótica / aproximada) de la función de probabilidad, pero no necesito jugar con un previo; sin embargo, me siento cada vez más cómodo con la inferencia bayesiana, especialmente si Veo el término aa de regularización anterior para inferencia de muestra pequeña.

Perdón por el lado. Cualquier ayuda para mi problema principal es apreciada.


fuente
1
una edición de la publicación parece haber estropeado el enlace, pero no hay suficiente información para que pueda solucionarlo.
Dikran Marsupial
@DikranMarsupial gracias por notar eso. Agregué de nuevo en el enlace.

Respuestas:

3

Yo diría que los frecuentistas son a menudo "bayesianos implícitos / inconscientes", ya que en la práctica a menudo queremos realizar razonamientos probabilísticos sobre cosas que no tienen una frecuencia a largo plazo. El ejemplo clásico es la prueba estadística de hipótesis nula (NHST), donde lo que realmente queremos saber es que las probabilidades relativas de las hipótesis nula y de investigación son ciertas, pero no podemos hacer esto en un contexto frecuentista ya que la verdad de una hipótesis particular no tiene (no trivial) frecuencia a largo plazo: es cierto o no lo es. Los NHST frecuentes evitan esto al sustituir una pregunta diferente, "¿cuál es la probabilidad de observar un resultado al menos tan extremo bajo la hipótesis nula" y luego compararlo con un umbral predeterminado. Sin embargo, este procedimiento no es lógico permítanos concluir cualquier cosa acerca de si H0 o H1 es cierto, y al hacerlo, en realidad estamos saliendo de un marco frecuentista en uno bayesiano (generalmente subjetivo), donde concluimos que la probabilidad de observar un valor tan extremo bajo H0 es tan bajo que ya no podemos creer que es probable que H0 sea cierto (tenga en cuenta que esto implícitamente asigna una probabilidad a una hipótesis particular).

αp(H0)p(H1)

ingrese la descripción de la imagen aquí

α

Podría decirse que los intervalos de confianza a menudo se usan (e interpretan como) un intervalo en el que podemos esperar ver las observaciones con una probabilidad dada, lo que nuevamente es una interpretación bayesiana.

Idealmente, los estadísticos deberían ser conscientes de los beneficios y desventajas de ambos enfoques y estar preparados para utilizar el marco adecuado para la aplicación en cuestión. Básicamente, deberíamos apuntar a utilizar el análisis que proporcione la respuesta más directa a la pregunta que realmente queremos que se responda (y no sustituir silenciosamente una diferente), por lo que un enfoque frecuentista es probablemente el más eficiente cuando realmente estamos interesados ​​en frecuencias de largo plazo y Métodos bayesianos donde ese no es el caso.

H0 0

Dikran Marsupial
fuente
2
p<0.05
3
Creo que funciona como una crítica a las estadísticas de "rituales nulos", donde los NHST se usan como una receta del libro de cocina de estadísticas sin pensar / comprender el procedimiento (probablemente incluyéndome a mí cuando comencé; o).
Dikran Marsupial
2
Creo que un gran problema con NHST es menos el ritualizado p <0.05 y más que restringe artificialmente el espacio de hipótesis. Quiero decir, no están considerando (como hipótesis) las numerosas otras razones por las cuales sería oscuro aparte de "el sol explotó". Esto es lo que realmente no me gusta de NHST ... es tan conservador hacia lo nulo. Además, me pregunto cuál sería el poder de esta prueba.
1
H0 0
@DikranMarsupial de acuerdo! Fisher los imaginó ayudando con experimentos agrícolas, que es de donde proviene el valor p. Evaluar pesticidas y fertilizantes no es como evaluar preguntas existenciales no replicables ... herramienta incorrecta para el trabajo.
4

Los bayesianos y los frequentistas no solo difieren en la forma en que obtienen inferencias, o en qué tan similares o diferentes pueden ser inciertas ciertas elecciones previas. La principal diferencia es cómo interpretan la probabilidad:

Probabilidad bayesiana :

La probabilidad bayesiana es una interpretación del concepto de probabilidad. En contraste con la interpretación de la probabilidad como frecuencia o propensión de algún fenómeno, la probabilidad bayesiana es una cantidad asignada para representar un estado de conocimiento o un estado de creencia.

Probabilidad Frequentist :

La probabilidad frecuenta o frecuentismo es una interpretación estándar de la probabilidad; define la probabilidad de un evento como el límite de su frecuencia relativa en un gran número de ensayos. Esta interpretación apoya las necesidades estadísticas de los científicos y encuestadores experimentales; las probabilidades se pueden encontrar (en principio) mediante un proceso objetivo repetible (y, por lo tanto, idealmente carecen de opinión). No es compatible con todas las necesidades; Los jugadores generalmente requieren estimaciones de las probabilidades sin experimentos.

Estas dos definiciones representan dos enfoques irreconciliables para definir el concepto de probabilidad (al menos hasta ahora). Por lo tanto, existen diferencias más fundamentales entre estas dos áreas que si se pueden obtener estimadores similares o las mismas conclusiones en algunos modelos paramétricos o no paramétricos.

Pollo Anabolico
fuente
1
No creo que sean completamente irreconciliables, una frecuencia a largo plazo es una base perfectamente razonable para un estado de conocimiento o creencia.
Dikran Marsupial
@DikranMarsupial Esto es realmente un problema abierto en filosofía de la ciencia. Entiendo tu punto, pero la reconciliación no es tan sencilla.
Pollo Anabolico
functionally
seguramente los frecuentistas serían funcionalmente equivalentes si también hubiera un análogo frecuentista para cada procedimiento bayesiano, lo cual no puede ser cierto ya que los bayesianos pueden hablar de probabilidades para cosas sin frecuencias de largo recorrido, pero los frecuentistas no pueden.
Dikran Marsupial
@DikranMarsupial sí, es por eso que pregunté si los fequentistas son un subconjunto de bayesiano (reconocí que se sabe que lo contrario es falso).