Algorithmus - Backpropagation

• Bewiesen durch:
  • Rekursive Berechnung der partiellen Ableitung bezüglich eines Gewichts
• Typen:
  • Backpropagation Through Time
• Generalisierungen:
  • Kettenregel
  • Dynamische Programmierung
• Involvierte Definitionen:
  • Gradient
  • Fehlerfunktion
  • Neuronales Netzwerk
  • Gelabelter Datensatz
  • Darstellung der Gewichte zwischen zwei Schichten
  • Beispiel (Datensatz)
• Veranstaltung: EML
• Referenz: @thimm2024 (Abschnitt 5.1.4)

⠀

Algorithmus: Backpropagation

Als Backpropagation bezeichnen wir einen rekursiven Algorithmus zur Berechnung der Fehlerfunktion bezüglich der Gewichte in einem neuronalen Netzwerk.

---

Eingabe:

• Datensatz .
• Gewichtsmatrix
• Aktivierungsfunktion

Ausgabe: Partielle Ableitungen .

setze für alle
for do
% Forwardprop für den Input-Layer

% Forwardprop für den Rest
for do

% Backprop für den Output-Layer
für alle
und

% Backprop für den Rest
for do
für alle
und