Definition: Übergangsmatrix der (zeithomogenen) Markovkette

Sei eine abzählbare Menge (hier auch Zustandsraum).
Sei ein Wahrscheinlichkeitsraum.
Sei eine zeithomogene Markovkette mit .

Sei und damit .

Als Übergangsmatrix von bezeichnen wir

Wobei es sich bei um die Übergangswahrscheinlichkeit von nach handelt.