Definition - Maximum-Likelihood-Hypothese

• Beispiele:
  • Quadratischer Fehler des Linearen Modells
• Generalisierungen:
  • MAP-Hypothese (wenn die gleichverteilt sind)
• Involvierte Definitionen:
  • Hypothese (ML) und Zufallsvariable
  • Hypothesenraum
  • Wahrscheinlichkeitsraum
  • A-priori-Wahrscheinlichkeit
  • A-posteriori-Wahrscheinlichkeit
  • Datensatz
• Veranstaltung: EML
• Referenz: @thimm2024 (Abschnitt 2.5.1)

⠀

Definition: Maximum-Likelihood-Hypothese

Sei ein Wahrscheinlichkeitsraum.
Sei ein gleichverteilter Hypothesenraum über den Funktionen .
Sei ein Datensatz.

Als Maximum-Likelihood-Hypothese (kurz ML-Hypothese) bezeichnen wir eine Hypothese mit

Wir suchen also diejenige Hypothese, unter der die beobachteten Daten am wahrscheinlichsten sind.

Anmerkungen

Interpretation als Likelihood-Funktion

Die Wahrscheinlichkeit können wir auch als Likelihood-Funktion, also

interpretieren. Dabei ist eine durch parametrisierte Verteilung, also

Beim Maximum-Likelihood Schätzer suchen wir ebenso einen Schätzer, der die Wahrscheinlichkeit eines beobachteten Datensamples maximiert.

Herleitung Maximum-Likelihood-Hypothese

Von der MAP-Hypothese wissen wir bereits, dass

Nehmen wir weiter an, dass die aus alle gleich wahrscheinlich sind, so wird auch zu einer Konstante die wir wie schon zuvor ignorieren können und wir erhalten: