Proposition - Neuronale Netze mit mehr als einer Schicht können beliebige Funktionen beliebig genau approximieren

• Generalisierungen:
  • Universelles Approximations Theorem
• Involvierte Definitionen:
  • Neuronales Netzwerk
  • Layer
  • Aktivierungsfunktion
• Veranstaltung: EML
• Referenz: @thimm2024 (Abschnitt 5.1.2)

⠀

Proposition: Neuronale Netze mit mehr als einer Schicht können beliebige Funktionen beliebig genau approximieren

Sei ein Neuronales Netzwerk mit

• mindestens einem Hidden Layer,
• einer nicht-linearen Aktivierungsfunktion und
• beliebig vielen Neuronen innerhalb der Schichten

gegeben.

Für die Ausdrucksstärke des Netzwerkes gilt dann:

Das Netzwerk kann beliebige Funktionen beliebig genau approximieren.