Definition - Kerneltrick

• Beispiele:
  • Für verschiedene Kernels, siehe Kernelfunktionen
• Involvierte Definitionen:
  • Kernelfunktion
  • Duale Funktion
  • Duales Optimierungsproblem der SVM
  • Duales Optimierungsproblem der Soft-Margin SVM
• Veranstaltung: EML
• Referenz: @thimm2024 (Abschnitt 2.3.3, Kernelfunktionen)

⠀

Definition: Kerneltrick

Sei ein Datensatz mit und .

Sei die duale Funktion der SVM gegeben durch:

Das Ziel beim Kerneltrick ist es, die Datenpunkte in einen höheren Raum mit zu transformieren, in dem die Daten linear separierbar werden.

Mithilfe des Kerneltricks kann diese Transformation effizient durchgeführt werden.

Sei hierzu ein Kernel der Transformation . Dann gilt nämlich:

Anmerkung

Hard-Margin und Soft-Margin?

Da die dualen Funktionen der Hard- und der Soft-Margin SVM identisch sind, muss auch am Trick nichts geändert werden.