Definition: Zustandsnutzen bezüglich einer Strategie

Sei ein Markov-Entscheidungsprozess.
Sei eine Strategie.

Als (diskontierten) Nutzen von bezüglich definieren wir:

wobei wir als Diskontierungsfaktor (auch Discountfaktor) bezeichnen.