Lemma: Wahrscheinlichkeit für den Zustand einer zeithomogenen Markovkette durch Eintrag in der Übergangsmatrix

Sei ein endlicher Zustandsraum.
Sei ein Wahrscheinlichkeitsraum.
Sei eine zeithomogene Markovkette.
Sei die Übergangsmatrix von .

Dann gilt für alle :

wobei den Eintrag an der Stelle von bezeichne.