Definition: Optimales Modell

Sei ein durch parametrisiertes Regressionsmodell.
Sei ein gelabelter Datensatz.
Sei eine Fehlerfunktion.

Die Parameter des optimalen Modells erhalten wir durch: