Un filtro IIR tiene polos, lo que significa que tiene retroalimentación de la salida del sistema que factoriza en sus cálculos de salida. Los polos de un sistema de tiempo discreto deben tener una magnitud absoluta menor que 1 para que el sistema sea estable. Esto equivale a que los polos caigan dentro de un círculo unitario en el plano complejo (generalmente se refiere al plano z asociado con la función de transferencia de dominio z del sistema).
La situación análoga para los sistemas del "mundo real" (sistemas que pueden modelarse mediante ecuaciones diferenciales lineales con coeficientes constantes, por lo tanto pueden representarse mediante una función de transferencia en el dominio de Laplace o dominio S), es que los polos de la función de transferencia del sistema deben estar en el lado izquierdo del avión S.
Para sistemas de tiempo discreto, si los polos están fuera del círculo unitario, los valores representados internamente y la salida del sistema pueden crecer sin límite. Si los polos se encuentran en el círculo unitario, los valores internos del sistema y la salida pueden oscilar.
Para un sistema estable, se espera que los valores internos y la salida del sistema sean una función de la entrada del sistema. Este no será el caso si el sistema es oscilatorio o tiene valores que exceden el tamaño de los números utilizados para representar los valores internos (desbordamiento del registro).
Si los polos están demasiado cerca del círculo unitario, el sistema puede ser marginalmente estable. En tales casos, el sistema puede comportarse para un conjunto limitado de condiciones de entrada, pero puede quedar incontrolado para otras condiciones. La razón de esto es que los sistemas DSP son inherentemente no lineales. Los valores internos a menudo se representan usando aritmética de punto fijo y siempre se almacenan en registros de tamaño finito, por lo que si se exceden los valores máximos que se pueden representar, el sistema experimenta una no linealidad. Otra característica de los sistemas DSP es que las señales se cuantifican. La cuantización de la señal agrega efectos no lineales de bajo nivel al sistema. El error de cuantización a menudo se modela como ruido, pero puede correlacionarse con los valores del sistema y dar lugar a oscilaciones llamadas ciclos límite.
Se debe tener cuidado para evitar saturar (alcanzar valores máximos absolutos) en representaciones de punto fijo. Generalmente se considera mejor, si se exceden los valores absolutos, que la representación se mantenga en el valor máximo en lugar de causar una inversión de signo del valor. Esto se llama limitación de saturación y hace un mejor trabajo al preservar el comportamiento del sistema que permite las inversiones de signos.
En general, un sistema DSP inestable se saturará a un valor fijo u oscilará de manera caótica debido a no bibliotecas internas.