¿Cómo describirías en inglés las características que distinguen el razonamiento bayesiano del frecuente?

Así es como le explicaría la diferencia básica a mi abuela:

He perdido mi teléfono en algún lugar de la casa. Puedo usar el localizador del teléfono en la base del instrumento para localizar el teléfono y cuando presiono el localizador del teléfono el teléfono comienza a sonar.

Problema: ¿Qué área de mi casa debo buscar?

Razonamiento Frecuente

Puedo escuchar el teléfono sonar. También tengo un modelo mental que me ayuda a identificar el área de donde proviene el sonido. Por lo tanto, al escuchar el pitido, deduzco el área de mi casa que debo buscar para localizar el teléfono.

Razonamiento Bayesiano

Puedo escuchar el teléfono sonar. Ahora, aparte de un modelo mental que me ayuda a identificar el área de donde proviene el sonido, también conozco los lugares donde he perdido el teléfono en el pasado. Entonces, combino mis inferencias usando los pitidos y mi información previa sobre las ubicaciones en las que he perdido el teléfono en el pasado para identificar un área que debo buscar para localizar el teléfono.

Lengua firmemente en la mejilla:

Un bayesiano define una "probabilidad" exactamente de la misma manera que la mayoría de los no estadísticos, es decir, una indicación de la plausibilidad de una proposición o una situación. Si le hace una pregunta, él le dará una respuesta directa asignando probabilidades que describan las posibilidades de los posibles resultados para la situación particular (y exponga sus supuestos anteriores).

Un Frecuentista es alguien que cree que las probabilidades representan frecuencias de largo plazo con las cuales ocurren los eventos; si es necesario, inventará una población ficticia de la cual su situación particular podría considerarse una muestra aleatoria para que pueda hablar de manera significativa sobre las frecuencias a largo plazo. Si le hace una pregunta sobre una situación particular, no dará una respuesta directa, sino que hará una declaración sobre esta población (posiblemente imaginaria). Muchos estadísticos no frecuentas se confundirán fácilmente con la respuesta y la interpretarán como probabilidad bayesiana sobre la situación particular.

Sin embargo, es importante tener en cuenta que la mayoría de los métodos frequentistas tienen un equivalente bayesiano que en la mayoría de las circunstancias dará esencialmente el mismo resultado, la diferencia es en gran medida una cuestión de filosofía, y en la práctica es una cuestión de "caballos para cursos".

Como habrás adivinado, soy bayesiano e ingeniero. ; o)

Muy groseramente diría que:

Frecuentista: el muestreo es infinito y las reglas de decisión pueden ser precisas. Los datos son una muestra aleatoria repetible: hay una frecuencia. Los parámetros subyacentes son fijos, es decir, permanecen constantes durante este proceso de muestreo repetible.

Bayesiano: las cantidades desconocidas se tratan probabilísticamente y el estado del mundo siempre se puede actualizar. Los datos se observan a partir de la muestra realizada. Los parámetros son desconocidos y se describen probabilísticamente. Son los datos los que son fijos.

Hay una publicación de blog brillante que da un ejemplo en profundidad de cómo un bayesiano y un frequentista abordarían el mismo problema. ¿Por qué no responde el problema por usted mismo y luego verifica?

El problema (tomado del blog de Panos Ipeirotis):

Tienes una moneda que cuando se voltea termina con la cabeza con probabilidad p y termina con la probabilidad 1-p. (El valor de p es desconocido).

Intentando estimar p, lanzas la moneda 100 veces. Termina la cabeza 71 veces.

Luego debe decidir sobre el siguiente evento: "En los próximos dos lanzamientos obtendremos dos caras seguidas".

¿Apostaría que el evento sucederá o que no sucederá?

Digamos que un hombre tira un dado de seis lados y tiene resultados 1, 2, 3, 4, 5 o 6. Además, dice que si cae en un 3, te dará un libro de texto gratis.

Luego informalmente:

El Frecuentista diría que cada resultado tiene una probabilidad igual de 1 en 6 de ocurrir. Ella ve la probabilidad como derivada de distribuciones de frecuencia a largo plazo.

Sin embargo, el Bayesiano diría que espere un segundo, ¡conozco a ese hombre, es David Blaine, un famoso tramposo! Tengo la sensación de que está tramando algo. Voy a decir que solo hay un 1% de posibilidades de que caiga en un 3, PERO volveré a evaluar esa creencia y la cambiaré cada vez que tire el dado. Si veo que los otros números aparecen con la misma frecuencia, entonces aumentaré iterativamente la probabilidad de 1% a algo un poco más alto, de lo contrario lo reduciré aún más. Ella ve la probabilidad como grados de creencia en una proposición.

Solo un poco de diversión ...

Un bayesiano es aquel que, vagamente esperando un caballo y vislumbrando un burro, cree firmemente que ha visto una mula.

De este sitio:

http://www2.isye.gatech.edu/~brani/isyebayes/jokes.html

y del mismo sitio, un buen ensayo ...

"Una explicación intuitiva del teorema de Bayes"

http://yudkowsky.net/rational/bayes

Se le pide al Bayesiano que haga apuestas, que pueden incluir cualquier cosa desde la cual la mosca se arrastrará por una pared más rápido hasta qué medicina salvará la mayoría de las vidas, o qué prisioneros deberían ir a la cárcel. Él tiene una gran caja con asa. Él sabe que si pone absolutamente todo lo que sabe en la caja, incluida su opinión personal, y da la vuelta, tomará la mejor decisión posible para él.

Se le pide al frecuentista que escriba informes. Él tiene un gran libro negro de reglas. Si la situación sobre la que se le pide que haga un informe está cubierta por su libro de reglas, puede seguir las reglas y escribir un informe redactado con tanto cuidado que sea incorrecto, en el peor de los casos, una vez en 100 (o una vez en 20, o una tiempo en lo que dice la especificación de su informe).

El frecuentista sabe (porque ha escrito informes al respecto) que el Bayesiano a veces hace apuestas que, en el peor de los casos, cuando su opinión personal es incorrecta, podría resultar mal. El frecuentista también sabe (por la misma razón) que si apuesta contra el Bayesiano cada vez que se diferencia de él, a la larga, perderá.

En inglés simple, diría que el razonamiento bayesiano y frequentista se distingue por dos formas diferentes de responder la pregunta:

¿Qué es la probabilidad?

La mayoría de las diferencias se reducirán esencialmente a cómo cada una responde a esta pregunta, ya que básicamente define el dominio de las aplicaciones válidas de la teoría. Ahora realmente no puede dar ninguna respuesta en términos de "inglés simple", sin generar más preguntas. Para mí la respuesta es (como probablemente puedas adivinar)

la probabilidad es lógica

$1$$0$. Además, el cálculo de probabilidades puede derivarse del cálculo de proposiciones. Esto se ajusta más al razonamiento "bayesiano", aunque también amplía el razonamiento bayesiano en las aplicaciones al proporcionar principios para asignar probabilidades, además de principios para manipularlos. Por supuesto, esto lleva a la pregunta de seguimiento "¿Qué es la lógica?" Para mí, lo más parecido que podría dar como respuesta a esta pregunta es "la lógica son los juicios de sentido común de una persona racional, con un conjunto dado de supuestos" (¿qué es una persona racional? etc. etc.). La lógica tiene las mismas características que el razonamiento bayesiano. Por ejemplo, la lógica no te dice qué asumir o qué es "absolutamente cierto". Solo le dice cómo la verdad de una proposición está relacionada con la verdad de otra. Siempre debe proporcionar un sistema lógico con "axiomas" para que pueda comenzar con las conclusiones. También tienen las mismas limitaciones, ya que puede obtener resultados arbitrarios de axiomas contradictorios. Pero los "axiomas" no son más que probabilidades previas que se han establecido en$1$

Para el razonamiento frecuentista, tenemos la respuesta:

la probabilidad es frecuencia

aunque no estoy seguro de "frecuencia" es un término simple en inglés en la forma en que se usa aquí, tal vez "proporción" es una mejor palabra. Quería agregar a la respuesta frecuentista que se cree que la probabilidad de un evento es una cantidad real, medible (¿observable?), Que existe independientemente de la persona / objeto que lo está calculando. Pero no pude hacer esto en una forma de "inglés simple".

Entonces, tal vez una versión "simple en inglés" de la diferencia podría ser que el razonamiento frecuentista es un intento de razonar desde probabilidades "absolutas", mientras que el razonamiento bayesiano es un intento de razonar desde probabilidades "relativas".

Otra diferencia es que los fundamentos frecuentistas son más vagos en la forma de traducir el problema del mundo real a las matemáticas abstractas de la teoría. Un buen ejemplo es el uso de "variables aleatorias" en la teoría: tienen una definición precisa en el mundo abstracto de las matemáticas, pero no existe un procedimiento inequívoco que pueda usarse para decidir si alguna cantidad observada es o no "aleatoria variable".

La forma de razonamiento bayesiano, la noción de una "variable aleatoria" no es necesaria. Se asigna una distribución de probabilidad a una cantidad porque es desconocida , lo que significa que no se puede deducir lógicamente de la información que tenemos. Esto proporciona a la vez una conexión simple entre la cantidad observable y la teoría, ya que "ser desconocido" es inequívoco.

También puede ver en el ejemplo anterior una diferencia adicional en estas dos formas de pensar: "aleatorio" versus "desconocido". La "aleatoriedad" está redactada de tal manera que la "aleatoriedad" parece ser una propiedad de la cantidad real. Por el contrario, "ser desconocido" depende de la persona a la que le pregunte sobre esa cantidad, por lo tanto, es una propiedad del estadístico que realiza el análisis. Esto da lugar a los adjetivos "objetivos" versus "subjetivos" a menudo vinculados a cada teoría. Es fácil demostrar que la "aleatoriedad" no puede ser una propiedad de algunos ejemplos estándar, simplemente preguntando a dos frecuentas que reciben información diferente sobre la misma cantidad para decidir si es "aleatoria". Una es la Urna habitual de Bernoulli: frecuentista 1 tiene los ojos vendados mientras dibuja, mientras que el frecuentista 2 está parado sobre la urna, observando al frecuentista 1 sacar las bolas de la urna. Si la declaración de "aleatoriedad" es una propiedad de las bolas en la urna, entonces no puede depender del conocimiento diferente de los frecuentistas 1 y 2, y por lo tanto, los dos frecuentistas deben dar la misma declaración de "aleatorio" o "no aleatorio" .

En realidad, creo que gran parte de la filosofía que rodea el tema es grandiosa. Eso no es para descartar el debate, pero es una palabra de precaución. A veces, los asuntos prácticos tienen prioridad: daré un ejemplo a continuación.

Además, podría argumentar fácilmente que hay más de dos enfoques:

• Neyman-Pearson ('frecuentista')
• Enfoques basados ​​en la probabilidad
• Completamente bayesiano

Un colega principal me recordó recientemente que "muchas personas en lenguaje común hablan de frecuentista y bayesiano. Creo que una distinción más válida es basada en la probabilidad y frecuentista. Tanto los métodos de máxima verosimilitud como los bayesianos se adhieren al principio de probabilidad, mientras que los métodos frecuentistas no. "

Comenzaré con un ejemplo práctico muy simple:

Entonces, la prueba es 100% precisa o 95% precisa, dependiendo de si el paciente está sano o enfermo. En conjunto, esto significa que la prueba es al menos 95% precisa.

Hasta aquí todo bien. Esas son las declaraciones que haría un frecuentista. Esas declaraciones son bastante simples de entender y son ciertas. No hay necesidad de hablar sobre una "interpretación frecuentista".

Pero las cosas se ponen interesantes cuando intentas cambiar las cosas. Dado el resultado de la prueba, ¿qué puede aprender sobre la salud del paciente? Dado un resultado negativo de la prueba, el paciente está obviamente sano, ya que no hay falsos negativos.

Pero también debemos considerar el caso donde la prueba es positiva. ¿La prueba fue positiva porque el paciente estaba realmente enfermo o fue un falso positivo? Aquí es donde divergen los frecuentistas y los bayesianos. Todos estarán de acuerdo en que esto no se puede responder en este momento. El frecuentista se negará a responder. El Bayesiano estará preparado para darle una respuesta, pero primero tendrá que darle al Bayesiano, es decir, qué proporción de los pacientes están enfermos.

En resumen, las siguientes afirmaciones son verdaderas:

• Para pacientes sanos, la prueba es muy precisa.
• Para pacientes enfermos, la prueba es muy precisa.

Si está satisfecho con declaraciones como esa, entonces está utilizando interpretaciones frecuentes. Esto puede cambiar de un proyecto a otro, dependiendo del tipo de problemas que esté viendo.

Pero es posible que desee hacer declaraciones diferentes y responder la siguiente pregunta:

• Para aquellos pacientes que obtuvieron un resultado positivo, ¿qué tan precisa es la prueba?

Esto requiere un enfoque previo y bayesiano. Tenga en cuenta también que esta es la única pregunta de interés para el médico. El médico dirá "Sé que los pacientes obtendrán un resultado positivo o negativo. También ahora que el resultado negativo significa que el paciente está sano y puede ser enviado a casa. Los únicos pacientes que me interesan ahora son aquellos que recibieron un resultado positivo: ¿están enfermos? "

Para resumir: en ejemplos como este, el bayesiano estará de acuerdo con todo lo dicho por el frecuentista. Pero el Bayesiano argumentará que las declaraciones del frecuentista, si bien son ciertas, no son muy útiles; y argumentará que las preguntas útiles solo pueden responderse con un previo.

Un frecuentista considerará cada valor posible del parámetro (H o S) a su vez y preguntará "si el parámetro es igual a este valor, ¿cuál es la probabilidad de que mi prueba sea correcta?"

En cambio, un Bayesiano considerará cada valor observado posible (+ o -) y preguntará "Si imagino que acabo de observar ese valor, ¿qué me dice eso sobre la probabilidad condicional de H-versus-S?"

Las estadísticas bayesianas y frecuentistas son compatibles, ya que pueden entenderse como dos casos limitantes de evaluar la probabilidad de eventos futuros con base en eventos pasados ​​y un modelo asumido, si uno admite que en el límite de un gran número de observaciones, no hay incertidumbre acerca de el sistema permanece y, en este sentido, una gran cantidad de observaciones es igual a conocer los parámetros del modelo.

Supongamos que hemos hecho algunas observaciones, por ejemplo, el resultado de 10 lanzamientos de monedas. En las estadísticas bayesianas, comienzas a partir de lo que has observado y luego evalúas la probabilidad de futuras observaciones o parámetros del modelo. En las estadísticas frecuentistas, comienzas a partir de una idea (hipótesis) de lo que es cierto al suponer escenarios de una gran cantidad de observaciones que se han hecho, por ejemplo, la moneda es imparcial y da un 50% de ventaja, si la arrojas muchas veces. Basado en estos escenarios de un gran número de observaciones (= hipótesis), evalúa la frecuencia de hacer observaciones como la que hizo, es decir, la frecuencia de diferentes resultados de 10 lanzamientos de monedas. Es solo entonces que toma su resultado real, lo compara con la frecuencia de posibles resultados y decide si el resultado pertenece a aquellos que se espera que ocurran con alta frecuencia. Si este es el caso, concluye que la observación realizada no contradice sus escenarios (= hipótesis). De lo contrario, concluye que la observación realizada es incompatible con sus escenarios y rechaza la hipótesis.

Así, la estadística bayesiana parte de lo observado y evalúa posibles resultados futuros. La estadística frecuente comienza con un experimento abstracto de lo que se observaría si se supone algo, y solo entonces compara los resultados del experimento abstracto con lo que realmente se observó. De lo contrario, los dos enfoques son compatibles. Ambos evalúan la probabilidad de futuras observaciones basadas en algunas observaciones hechas o hipotetizadas.

Empecé a escribir esto de una manera más formal:

Posicionar la inferencia bayesiana como una aplicación particular de la inferencia frecuentista y viceversa. higo compartido.

http://dx.doi.org/10.6084/m9.figshare.867707

El manuscrito es nuevo. Si lo lees y tienes comentarios, házmelo saber.

Yo diría que miran la probabilidad de diferentes maneras. El Bayesiano es subjetivo y utiliza creencias a priori para definir una distribución de probabilidad previa sobre los posibles valores de los parámetros desconocidos. Entonces se basa en una teoría de la probabilidad como la de deFinetti. Los frecuentistas ven la probabilidad como algo que tiene que ver con una frecuencia limitante basada en una proporción observada. Esto está en línea con la teoría de la probabilidad desarrollada por Kolmogorov y von Mises.
Un frecuentista hace inferencia paramétrica usando solo la función de probabilidad. Un Bayesiano toma eso y lo multiplica por un previo y lo normaliza para obtener la distribución posterior que usa para inferencia.

La forma en que respondo esta pregunta es que los frecuentistas comparan los datos que ven con lo que esperaban. Es decir, tienen un modelo mental sobre la frecuencia con la que algo debe suceder, y luego ven los datos y con qué frecuencia sucedió. es decir, qué tan probable es la información que han visto dado el modelo que eligieron.

Los bayesianos , por otro lado, combinan sus modelos mentales. Es decir, tienen un modelo basado en sus experiencias anteriores que les dice cómo creen que deberían ser los datos, y luego combinan esto con los datos que observan para asentarse en alguna creencia `` posterior ''. es decir, encuentran la probabilidad de que el modelo que buscan elegir sea válido dados los datos que han observado.

Frecuente: El verdadero estado de la naturaleza es. Si habitualmente hago análisis como este, el 95% de mis respuestas serán correctas.

Bayesiano: Hay un 95% de posibilidades de que la respuesta verdadera sea ... Lo baso en una combinación de los datos que me dio y nuestras conjeturas anteriores de cuál es la verdad.

Frecuente: apostando a los dados. Solo el valor de los dados decidirá el resultado: ganas tu apuesta o no. Depende de la casualidad solo.

Bayesiano: jugando al póquer Texas Hold'em. Eres el único que ve tus dos cartas. Tienes algún conocimiento sobre los otros jugadores en la mesa. Tienes que ajustar tu probabilidad de ganar en el flop, turn y river y posiblemente según qué jugadores quedan. ¿Ellos farolean a menudo? ¿Son jugadores agresivos o pasivos? Todo esto decidirá lo que haces. No es solo la probabilidad de esas dos primeras cartas que tienes, lo que decidirá si ganas o no.

Jugar al poker frecuentista significaría que cada jugador mostraría sus manos al principio y luego apostaría o retiraría antes de que se mostraran las cartas de flop, turn y river. Ahora solo depende de la oportunidad si ganas o no.

Digamos, si te duele la cabeza y vas a ver a un médico. Supongamos que, en el conjunto de decisiones del médico, hay dos causas para un dolor de cabeza, el n. ° 1 para el tumor cerebral (una causa raíz que genera dolor de cabeza el 99% del tiempo) y el resfriado n. ° 2 (una causa que puede generar dolores de cabeza en muy pocos pacientes) .

Entonces, las decisiones de los médicos basadas en el enfoque Frecuentista serían: tienes un tumor cerebral.

La decisión de los médicos basada en el enfoque bayesiano le diría que tiene un resfriado (incluso si solo el 1% del resfriado causa dolores de cabeza)

Un gato macho y una gata están encerrados en una cámara de acero, junto con suficiente comida y agua durante 70 días.

Un frecuente diría que el período de gestación promedio para los felinos es de 66 días, la hembra estaba en celo cuando los gatos fueron acorralados, y una vez en celo se apareará repetidamente durante 4 a 7 días. Dado que probablemente hubo muchos actos de propagación y suficiente tiempo posterior para la gestación, lo más probable es que, cuando se abre la caja el día 70, hay una camada de gatitos recién nacidos.

Un Bayesiano diría, escuché a un Marvin Gaye serio saliendo de la caja el día 1 y luego esta mañana escuché muchos sonidos de gatitos provenientes de la caja. Entonces, sin saber mucho sobre la reproducción del gato, lo más probable es que, cuando se abre la caja el día 70, hay una camada de gatitos recién nacidos.