Definition - Threshold-Aktivierungsfunktion

• Konstrukte:
  • Perzeptron
• Generalisierungen:
  • Funktion
  • Aktivierungsfunktion
• Involvierte Definitionen:
• Veranstaltung: EML
• Referenz: @thimm2024 (Abschnitt 5.1.2)

⠀

Definition: Threshold-Aktivierungsfunktion

Als Threshold-Aktivierungsfunktion bezeichnen wir eine spezielle Art von Aktivierungsfunktion im Kontext des maschinellen Lernens, bei der der Output eines Neurons auf Basis eines Schwellenwertes (en. threshold) entschieden wird.

Diese binäre Entscheidung ermöglicht es, einfache Entscheidungsgrenzen zu modellieren und wurde besonders in frühen Modellen wie dem Perzeptron genutzt.

Die folgende Illustration zeigt den Graphen der Threshold-Aktivierungsfunktion:

Anmerkung

Weshalb wird die Threshold-Aktivierungsfunktion nicht mehr genutzt?

Die Threshold-Aktivierungsfunktion wird heute nicht mehr genutzt, weil ihre Ableitung nicht informativ ist.

Sie entspricht in jedem Punkt - mit Ausnahme von , hier ist die Funktion überhaupt nicht differenzierbar.

Die Ableitung wird bei modernen Optimierungsverfahren jedoch benötigt, um die Richtung bestimmen zu können, in die die Parameter angepasst werden sollen.