© DrHitch/Shutterstock.com
Neuronale Netze

2 Feed-Forward und Back-Propagation


Im ersten Kapitel haben wir uns mit dem einfachen Perzeptron-Modell beschäftigt und damit eine einzelne künstliche Nervenzelle simuliert. Für praktische Anwendungen ist dieses Modell jedoch nur begrenzt tauglich, da künstliche Nervenzellen, gleich ihren natürlichen Vorbildern im Gehirn, nur durch das Zusammenspiel in einem großen Netzwerk ihre tatsächliche Stärke entfalten können. Wir führen daher unser Modell einen Schritt weiter und wenden uns mehrschichtigen neuronalen Netzen zu.

Mehrschichtige neuronale Netze gliedern sich, wie der Name vermuten lässt, in verschiedene Schichten (Layers), die wiederum aus einem oder mehreren künstlichen Neuronen bestehen. Diese Schichten lassen sich im Regelfall in folgende Kategorien unterteilen:

  • Die Eingabeschicht (Input Layer) repräsentiert die Eingabedaten in das neuronale Netz, also die eigentlichen Daten, auf die eine Klassifikation angewendet wird. Bei einem Bilderkennungsproblem könnte beispielsweise jedes Neuron in der Eingabeschicht einem Pixel des Bilds entsprechen. Neuronen der Eingabeschicht sind mit denen der darauffolgenden versteckten Schicht verbunden.
  • Versteckte Schicht (Hidden Layer): Zwischen den Neuronen der Eingabeschicht und denen der Ausgabeschicht befinden sich eine oder auch mehrere versteckte Schichten. Gibt es mehr als eine versteckte Schicht, spricht man von „tiefen neuronalen Netzen“ (Deep Neural Networks). Erst dieses Konzept der zusätzlichen Komplexität, die durch die Entkopplung von Ein- und Ausgabedaten stattfindet, macht neuronale Netze zu dem, was sie sind, und verleiht ihnen die Fähigkeit zu „Lernen“ und sich an neue Aufgabenstellungen anzupassen.
  • Ausgabeschicht (Output Layer): Die Ausgabeschicht ist mit den Neuronen der versteckten Schicht verbunden und repräsentiert das Ergebnis eines Klassifikationsproblems.

Abbildung 2.1 zeigt schematisch ein mehrschichtiges neuronales Netz, das aus einer Eingabeschicht (Knoten X1X5), einer versteckten Schicht und einer Ausgabeschicht (Knoten Z1 und Z2) besteht. Trotz seiner Einfachheit weist dieses neuronale Netz zwei wichtige Charakteristika auf, die wir für unsere weiteren Betrachtungen als Grundlagen annehmen:

  • Neuronen einer Schicht sind nur mit denen der darauffolgenden Schicht verbunden. Es kann somit keine Schicht „übersprungen“ werden, und ebenso sind Verbindungen innerhalb einer Schicht oder mit zurückliegenden Schichten nicht erlaubt. Sind diese Voraussetzungen erfüllt, spricht man von einem „Feed-Forward“-System, da Information...

Neugierig geworden?

Angebote für Teams

Für Firmen haben wir individuelle Teamlizenzen. Wir erstellen Ihnen gerne ein passendes Angebot.

Das Library-Modell:
IP-Zugang

Das Company-Modell:
Domain-Zugang