Proposition: Verteilung einer homogenen Markovkette durch Startverteilung und Übergangswahrscheinlichkeiten

Sei eine abzählbare Menge (hier auch Zustandsraum).
Sei ein Wahrscheinlichkeitsraum.
Sei eine zeithomogene Markovkette.
Seien die Übergangswahrscheinlichkeiten.
Sei die Startverteilung, also die Verteilung von .

Dann gilt für alle und :