Puntuación de inteligencia al cuadrado y determinación del ganador

12

Hay un podcast de NPR llamado Intelligence Squared. Cada episodio es una transmisión de un debate en vivo sobre alguna declaración polémica como "La segunda enmienda ya no es relevante" o "La acción afirmativa en los campus universitarios hace más daño que bien". Cuatro representantes debaten: dos a favor y dos en contra.

Para determinar qué lado gana, se encuesta a la audiencia antes y después del debate. El lado que ganó más en términos de porcentaje absoluto se considera el ganador. Por ejemplo:

          For    Against  Undecided
 Before   18%      42%       40%
 After    23%      49%       28%

 Winner: Against team -- The motion is rejected.

Intuitivamente, creo que esta medida de éxito es parcial y me pregunto cómo se encuestaría a la audiencia para determinar el ganador de manera justa.

Tres problemas que veo inmediatamente con el método actual:

  • En los extremos, si un lado comienza con un acuerdo del 100%, solo pueden empatar o perder.

  • Si no hay indecisos, se puede ver que el lado con menos acuerdo inicial tiene un tamaño de muestra más grande del cual extraer.

  • No es probable que el lado indeciso esté realmente indeciso. Si suponemos que los dos lados están igualmente polarizados, parece que nuestra creencia previa sobre la población indecisa debería ser Beta(# For,# Against) si cada uno se vio obligado a tomar un lado.

Dado que tenemos que confiar en las encuestas de audiencia, ¿hay una manera más justa de juzgar quién gana?

Wesley Tansey
fuente
1
Creo que algo así como la "Relación a favor y en contra-después" dividida por la "Relación a favor y en contra" (esencialmente una relación de probabilidades) sería una mejor opción. Si es mayor que 1, mejoró las probabilidades, si es menor que 1, no lo hizo.
Glen_b -Reinstate Monica el
Ese fue mi pensamiento inicial también, aunque lo formulé como porcentaje de ganancia. No estoy seguro de cómo demostrar que es una estimación imparcial.
Wesley Tansey
¿Una estimación imparcial de qué? No estoy seguro de que la imparcialidad sea una propiedad especialmente deseable para esto.
Glen_b -Reinstalar a Mónica el
De lo bien que hizo cada lado. Idealmente, no querríamos sesgar el resultado en función de la respuesta inicial de la multitud. O puedo estar pensando en esto completamente mal ...
Wesley Tansey
Ah, creo que estamos usando sesgo de una manera ligeramente diferente allí. Si mi sugerencia es parcial en ese sentido depende de qué es exactamente lo que estás tratando de medir. Según una medida popular, se trata perfectamente ese problema.
Glen_b -Reinstate Monica el

Respuestas:

10

Sus preocupaciones están bien fundadas. Desafortunadamente, hay muchas formas objetivas y defendibles para resolver este problema y pueden entrar en conflicto entre sí. El siguiente análisis proporciona un marco para decidir cómo es posible que desee evaluar el resultado y muestra cuán dependientes son sus conclusiones de los supuestos que hace sobre la dinámica de la situación.


Tenemos poco o ningún control sobre la audiencia inicial. Es posible que no represente una población mayor (como todos los espectadores) en la que estamos más interesados. Por lo tanto, el número absoluto de opiniones tiene poca relevancia: lo que importa son las tasas a las que las personas pueden cambiar de opinión. (A partir de estas tasas, podríamos estimar cómo podría cambiar la población que escucha, dada la información sobre sus opiniones iniciales, incluso cuando las proporciones de opiniones en la audiencia que escuchan difieren de la audiencia del estudio que se encuestó).

Por lo tanto, el resultado consiste en seis posibles cambios de opinión y seis tasas de cambio asociadas:

  • Aquellos "para", a quienes indexaré con pueden cambiar de opinión y terminar en contra (con índice 2 ) a una tasa de 12 o indecisos (con índice 3 ) a una tasa de 13 .1,2a123a13

  • Aquellos "en contra" pueden cambiar de opinión a "a favor" a tasa de 21 o "indecisos" a una tasa de 23 .a21a23

  • Los indecisos pueden cambiar de opinión a "para" a una tasa o "en contra" a una tasa de un 32 .a31a32.

Definir , para i = 1 , 2 , 3 , siendo la proporción de personas de índice i no cambiantes sus mentes.aiii=1,2,3,i

Las columnas de la matriz contienen números no negativos que deben sumarse a la unidad (suponiendo que todos los que responden a la encuesta inicial también respondan a la última). Eso deja seis valores independientes para determinar en función de la transición de la distribución inicial en la audiencia, x = ( 0.18 , 0.42 , 0.40 ) , a la distribución final y = ( 0.23 , 0.49 , 0.28 ) = A xA=(aij)x=(0.18,0.42,0.40)y=(0.23,0.49,0.28)=Ax. Este es un sistema subdeterminado de ecuaciones lineales (restringidas), que deja una tremenda flexibilidad para derivar una solución. Veamos tres soluciones.

Solución 1: menor cambio

Podríamos pedirle a la matriz de transición que sea lo más pequeña posible en algún sentido. Una forma es minimizar las proporciones totales de personas que cambian de opinión. Esto se logra en el ejemplo con la soluciónA

A=(100.125010.175000.700).

Es decir, el de los indecisos terminaron a favor, el 17.5 % de ellos terminaron en contra, y ninguno de los pro o contra originales cambió de opinión. ¿Quien ganó? Los contras, obviamente, porque el debate persuadió a una mayor proporción de indecisos a conformarse con la opinión "en contra".12.5%17.5%

Este modelo sería apropiado cuando creas que las facciones iniciales se endurecen con sus opiniones y las únicas personas que probablemente cambien de opinión se encuentran entre las declaradas inicialmente como indecisas.

Solución 2: mínimos cuadrados

Una solución matemáticamente simple es encontrar la matriz cuya norma L 2 al cuadrado | El | A | El | 2 2 = t r ( AA ) es lo más pequeño posible: esto minimiza la suma de los cuadrados de las nueve probabilidades de transición (que incluyen el a i i que representa las proporciones que no cambian de opinión). Su solución (redondeada a dos decimales) esAL2||A||22=tr(AA)aii

A=(0.280.220.220.410.510.500.310.270.28).

Comparando las filas, vemos que aunque el del lado "en contra" fue persuadido para que se convirtiera a "para" (y otro 27 % estaba lo suficientemente confundido como para volverse indeciso), el 41 % del lado "para" se convirtió (y otro 31 % estaba confundido). Los indecisos originales tendían a convertirse al lado "en contra" ( 50 % versus 22 % ). Ahora "contra" es el claro ganador.22%27%41%31%50% 22%

1/3

Solución 3: mínimos cuadrados penalizados

AωiA

||A||22ω1a11ω2a22ω3a33

ω=(1,1,1/2)

A=(0.9100.170.030.930.230.060.070.60).

40%17%23%

Resumen

En este modelo de transición de cambio de opinión, la mayoría de los métodos de solución indican una victoria para el lado "contra" en este ejemplo particular. En ausencia de opiniones fuertes sobre la dinámica del cambio, eso sugiere que el lado "en contra" ganó.

(.20,.60,.20)(.30,.40,.30)20%30%40%30%. Sin embargo, la solución de mínimos cuadrados (redondeada) al menos sugiere que hay una forma en que esto podría suceder en la que el debate favoreció ligeramente a la otra parte. Es

A=(0.320.290.320.360.420.360.320.290.32).

36%29%(36%) 32%

Comentarios adicionales

A

A

whuber
fuente
Gracias por la publicación detallada! Sin embargo, me preocupa que todos estos métodos no consideren la posibilidad de que los indecisos no estén realmente indecisos.
Wesley Tansey
Tienen la flexibilidad de incorporar su preocupación por esa posibilidad. Todavía está atrapado con la necesidad de hacer suposiciones (fuertes): si cree que no están realmente decididas, tendrá que estimar qué proporción es "a favor" y qué proporción "en contra" (y sería una locura suponer las proporciones son las mismas que el número para: ¡número contra!) Una forma de eludir dicha estimación, aunque solo sea para ver cómo podría ser el resultado, es elegir una solución que recompense un cambio de opinión de una persona indecisa.
whuber
Suponiendo que ambos lados estén igualmente polarizados, ¿no sería su estimación MAP de las personas indecisas la relación a favor: en contra?
Wesley Tansey
En la mayoría de los casos, sería difícil apoyar tal suposición. Por ejemplo, las personas menos informadas pueden tener una mayor tendencia a ser indecisas, y también tienen una mayor tendencia a favorecer una de las dos posiciones. El efecto de una suposición "igualmente polarizante" podría ser tan fuerte (especialmente cuando hay una gran proporción de indecisos) como para hacer que el análisis posterior no sea relevante: los resultados serían principalmente una consecuencia de esa suposición. Una línea de pensamiento productiva para usted podría ser considerar recopilar información adicional sobre las personas indecisas.
whuber
3

p(forafter,againstafter,undecidedafterforbefore,againstbefore,undecidedbefore)
0.5para ambos equipos Tenga en cuenta que todavía hay múltiples opciones para la regla de decisión, ya que el espacio de resultados es bidimensional pero, si confiamos en el modelo predictivo, esto no importa en términos de equidad del concurso. Uno podría, por ejemplo, simplemente decidir que el equipo a favor gana si la proporción a favor y en contra después del debate excede su mediana predictiva (condicional en la encuesta previa).

Ideas para construir un modelo predictivo

(P(forfor before),P(udfor before),P(agfor before))Dir(aff,auf,aaf)(P(forud before),P(udud before),P(agud before))Dir(afu,auu,aau)(P(forag before),P(udag before),P(agag before))Dir(afa,aua,aaa),
Paaaaff=aaaafu=aau

a

Juho Kokkala
fuente
¿Podría ampliar la idea de un modelo predictivo con un ejemplo?
Wesley Tansey
@WesleyTansey Me di cuenta de que uno podría usar la idea de Whuber de considerar las probabilidades de transición para construir un modelo predictivo a los fines de mi respuesta. Edité mi respuesta para contener algunas ideas iniciales, pero no he intentado implementar esto ni estoy planeando hacerlo.
Juho Kokkala