Proposition: Verteilungen einer homogenen Markovkette durch Wahrscheinlichkeitsvektor und Übergangsmatrix

Sei eine abzählbare Menge (hier auch Zustandsraum).
Sei ein Wahrscheinlichkeitsraum.
Sei eine zeithomogene Markovkette.
Sei die Übergangsmatrix.
Sei die Verteilung von .

Dann gilt für alle

Insbesondere gilt

was in der Praxis zeitsparend sein kann.