Explicación de una oración de la AIC para tipos no técnicos

Necesito una explicación de una oración sobre el uso de la AIC en la construcción de modelos. Hasta ahora tengo "En pocas palabras, el AIC es una medida relativa de la cantidad de variación observada explicada por diferentes modelos y permite la corrección de la complejidad del modelo".

Cualquier consejo muy apreciado.

R

AIC es un número que es útil para comparar modelos, ya que incluye medidas de qué tan bien el modelo se ajusta a los datos y qué tan complejo es el modelo.

Cuál sería la mejor explicación depende de qué se entiende exactamente por "tipos no técnicos". Me gustan las declaraciones que se han ofrecido hasta ahora, pero tengo una objeción: tienden a usar el término "complejo", y lo que precisamente se entiende que puede significar podría variar. Permítanme ofrecerles esta variación:

El AIC es una medida de qué tan bien un modelo se ajusta a un conjunto de datos, mientras se ajusta a la capacidad de ese modelo para adaptarse a cualquier conjunto de datos, esté o no relacionado.

Aquí hay una definición que ubica a AIC en la colección de técnicas utilizadas para la selección del modelo. La AIC es solo una de varias formas razonables de capturar el equilibrio entre la bondad de ajuste (que se mejora al agregar la complejidad del modelo en forma de variables explicativas adicionales, o al agregar advertencias como "pero solo el jueves, cuando llueve") y la parsimonia (más simple == mejor) al comparar modelos no anidados. Aquí está la letra pequeña:

1. Creo que la definición del OP solo se aplica a los modelos lineales. Para cosas como probits, los AIC generalmente se definen en términos de probabilidad logarítmica.
2. Algunos otros criterios se ajustan (que tiene el menor ajuste para variables explicativas adicionales), Kullback-Leibler IC, BIC / SC e incluso otros más exóticos, como el criterio de predicción de Amemiya, rara vez visto en la naturaleza del trabajo aplicado . Estos criterios difieren en cuán abruptamente penalizan la complejidad del modelo. Algunos han argumentado que la AIC tiende a seleccionar modelos que están sobreparamizados, porque la penalización del tamaño del modelo es bastante baja. El BIC / SC también aumenta la penalización a medida que aumenta el tamaño de la muestra, lo que parece una característica práctica y elegante.$R^{2}$
3. Una buena manera de eludir la participación en el Criterio de información superior de Estados Unidos es admitir que estos criterios son arbitrarios y que se derivan aproximaciones considerables para derivarlos, especialmente en el caso no lineal. En la práctica, la elección de un modelo de un conjunto de modelos probablemente dependerá del uso previsto de ese modelo. Si el propósito es explicar las características principales de un problema complejo, la parsimonia debería valer su peso en oro. Si la predicción es el nombre del juego, la parsimonia debería ser menos querida. Algunos incluso agregarían que el conocimiento de la teoría / dominio también debería desempeñar un papel más importante. En cualquier caso, lo que planea hacer con el modelo debería determinar qué criterio podría usar.
4. Para modelos anidados , la prueba de hipótesis estándar que restringe los parámetros a cero debería ser suficiente.

Qué tal si:

AIC le ayuda a encontrar el modelo que mejor se ajuste y que use la menor cantidad de variables.

Si eso está demasiado lejos en la dirección no técnica, hágamelo saber en los comentarios y llegaré a otro.

AIC es una medida de qué tan bien los datos son explicados por el modelo corregido por lo complejo que es el modelo.

La otra cara de la excelente respuesta de @ gung:

El AIC es un número que mide qué tan bien un modelo se ajusta a un conjunto de datos, en una escala móvil que requiere modelos más elaborados para ser significativamente más precisos con el fin de calificar mejor.

EDITAR:

El AIC es un número que mide qué tan bien un modelo se ajusta a un conjunto de datos, en una escala móvil que requiere modelos que sean significativamente más elaborados o flexibles para que también sean significativamente más precisos.

Sea k el número de parámetros de un modelo y MaxL el valor de la función de probabilidad en su máximo. Entonces el Criterio de información de Akaike se define como$AIC=2k-2\ln\left(MaxL\right)$. El objetivo es encontrar un modelo que minimice el AIC.

Dada esta definición, el AIC es un criterio utilizado para elegir el modelo que produce el mejor compromiso entre la dispersión en el número de parámetros y la probabilidad máxima para la estimación de esos parámetros.