Proposition: Neuronales Netz mit Identitäts-Aktivierungsfunktionen ist nur so ausdrucksstark wie ein einzelnes Neuron mit Identitäts-Aktivierungsfunktion

Wird bei allen Neuronen eines Neuronalen Netzwerkes die Identitäts-Aktivierungsfunktion genutzt, so gilt:

Das Netzwerk ist nicht ausdrucksstärker als ein einzelnes Neuron mit Identitäts-Aktivierungsfunktion.