¿Cuál es la diferencia entre las cadenas de Markov y los procesos de Markov?
Estoy leyendo información contradictoria: a veces la definición se basa en si el espacio de estado es discreto o continuo, y otras veces se basa en si el tiempo es discreto o continuo.
Diapositiva 20 de este documento :
Un proceso de Markov se denomina cadena de Markov si el espacio de estado es discreto, es decir, es finito o el espacio contable es discreto, es decir, es finito o contable.
http://www.win.tue.nl/~iadan/que/h3.pdf :
Un proceso de Markov es la versión de tiempo continuo de una cadena de Markov.
O se puede usar la cadena de Markov y el proceso de Markov como sinónimos, precisando si el parámetro de tiempo es continuo o discreto, así como si el espacio de estado es continuo o discreto.
Actualización 2017-03-04: se hizo la misma pregunta en https://www.quora.com/Can-I-use-the-words-Markov-process-and-Markov-chain-interchangebly
fuente
Respuestas:
Desde el prefacio hasta la primera edición de "Cadenas de Markov y estabilidad estocástica" de Meyn y Tweedie:
Editar: las referencias citadas por mi referencia son, respectivamente:
99: JL Doob. Procesos estocásticos . John Wiley & Sons, Nueva York 1953
71: KL Chung. Cadenas de Markov con probabilidades de transición estacionarias . Springer-Verlag, Berlín, segunda edición, 1967.
326: D. Revuz. Cadenas de Markov . Holanda Septentrional, Amsterdam, segunda edición, 1984.
fuente
Un método de clasificación de procesos estocásticos se basa en la naturaleza de
time parameter
( discreto o continuo ) ystate space
( discreto o continuo ). Esto lleva a cuatro categorías de procesos estocásticos.Si el
state space
proceso estocástico es discreto , yatime parameter
sea discreto o continuo , el proceso generalmente se denomina cadena .Si un proceso estocástico posee la propiedad de Markov , independientemente de la naturaleza del parámetro de tiempo (discreto o continuo) y el espacio de estado (discreto o continuo) , entonces se llama un proceso de Markov . Por lo tanto, tendremos cuatro categorías de procesos de Markov.
A
continuous time parameter
,discrete state space
proceso estocástico que posee la propiedad de Markov se llama una cadena de Markov parámetro continuo (CTMC) .A
discrete time parameter
,discrete state space
proceso estocástico que posee la propiedad de Markov se llama una cadena de Markov parámetro discreto (DTMC) .Del mismo modo, podemos tener otros dos procesos de Markov.
Actualización 2017-03-09:
Every independent increment process is a Markov process.
Poisson process
tener la propiedad de incremento independiente es unMarkov process
parámetro de tiempo continuo y espacio de estado discreto.Brownian motion process
tener la propiedad de incremento independiente es unMarkov process
parámetro de tiempo continuo y un proceso continuo de espacio de estado.fuente