¿Cuándo (si alguna vez) es una buena idea hacer un análisis de poder post hoc?

12

Tengo entendido que un análisis de poder es post hoc si y solo si usa el tamaño del efecto observado como el tamaño del efecto de la población objetivo.

user1205901 - Restablecer Monica
fuente

Respuestas:

7

En mi campo, veo personas que realizan análisis de poder post-hoc cuando el propósito del documento es mostrar que algún efecto que uno podría haber esperado estar presente (ya sea por literatura previa, sentido común, etc.) no está, al menos de acuerdo a alguna prueba de significación.

Sin embargo, en estas situaciones, el investigador tiene dificultades: puede haber obtenido un resultado no significativo ya sea porque el efecto realmente no está presente en la población o porque el estudio no fue lo suficientemente potente como para detectar el efecto incluso si estuviera presente. El propósito del análisis de poder, entonces, es mostrar que, dado un efecto trivialmente pequeño en la población, el estudio habría tenido una alta probabilidad de detectar ese efecto.

Para un ejemplo concreto de este uso del análisis de poder post-hoc, vea este documento vinculado.

Patrick S. Forscher
fuente
1
Eso ciertamente suena razonable. Con base en su respuesta, concluiría que a veces hay una buena razón para hacer análisis de poder post hoc. Es decir, a menos que exista algún método superior para demostrar que, incluso con un efecto de población trivialmente pequeño, un estudio tendría una alta probabilidad de detectar ese efecto. ¿Conoces algún método de este tipo?
user1205901 - Restablecer Monica
Creo que ese método es precisamente un análisis de poder post-hoc. Supongo que un método alternativo podría ser el uso de métodos bayesianos en lugar de las pruebas de hipótesis de Pearson, pero en mi campo (psicología), la prueba de hipótesis de Pearson sigue siendo el paradigma estadístico dominante.
Patrick S. Forscher
Hay un gran problema con el enfoque descrito. Las medias siempre son diferentes debido a la variación del muestreo, por lo que prácticamente, cualquier prueba podría detectar incluso un efecto trivialmente pequeño dada una muestra grande (aumente su n a 99999999999 y todo podría ser significativo). Además, en el caso de una hipótesis rechazada, no estoy muy seguro, pero es probable que el "poder obtenido" sea <0.5 siempre (o, la mayoría de las veces, al menos). Por lo tanto, siempre llevaría a la conclusión de que la muestra no era suficiente.
Bruno
Bruno, tu afirmación no es cierta a menos que el efecto de población no sea cero. Si el efecto de población es cero, entonces sí, obtendrá pequeñas fluctuaciones en su efecto observado, pero serán pequeñas y completamente descritas por la distribución de muestreo del parámetro de interés, lo que conducirá a un efecto significativo a una tasa determinada porα
Patrick S. Forscher
4

Siempre puede calcular la probabilidad de que un estudio haya producido un resultado significativo para un tamaño de efecto a priori dado. En teoría, esto debe hacerse antes de realizar un estudio porque no tiene sentido llevar a cabo un estudio con baja potencia que tenga pocas posibilidades de producir un resultado significativo cuando hay un efecto presente. Sin embargo, también puede calcular la potencia después del estudio para darse cuenta de que un estudio tenía baja potencia o, poco probable, alta potencia para detectar incluso un efecto pequeño.

El término potencia post-hoc u observada se usa para el análisis de potencia que utiliza los tamaños de efecto observados en una muestra para calcular la potencia bajo el supuesto de que el tamaño de efecto observado es una estimación razonable del tamaño de efecto verdadero. Muchos estadísticos han señalado que el poder observado en un solo estudio no es muy informativo porque los tamaños de los efectos no se estiman con suficiente precisión como para ser informativos. Más recientemente, los investigadores han comenzado a examinar el poder observado para un conjunto de estudios para examinar qué tan poderosos son los estudios en promedio y si los estudios informan resultados más significativos de lo que justificaría el poder real de los estudios.

https://replicationindex.wordpress.com/tag/observed-power/

Dr. R
fuente
Entonces, @ Dr-r, ¿cómo podría alguien referirse al primer tipo de estudio mencionado? ¿Hay un nombre correcto para eso? He usado la función "post hoc" de G * Power, pero he usado el tamaño del efecto a priori. La razón por la que lo hago es que, al principio, he planeado usar una diferencia de medias "adivinada" y una desviación estándar "adivinada", y diferían mucho de las obtenidas. Además, no pude lograr mi tamaño de muestra planificado en ambos grupos. No quiero usar el término "post hoc" en mi trabajo porque la gente podría equivocarse. Entonces, ¿tienes alguna sugerencia?
Bruno