¿Qué es una IndexOutOfRangeException / ArgumentOutOfRangeException y cómo lo soluciono?

Tengo un código y cuando se ejecuta, arroja un IndexOutOfRangeException, diciendo: El índice esta fuera de los límites de la matriz. ¿Qué significa esto y qué puedo hacer al respecto? Dependiendo de las clases utilizadas, también puede ser ArgumentOutOfRangeException Se produjo una...