Schichten in einem Neuronalen Netzwerk

Ein Neurales Netzwerk besteht aus mehreren Schichten, die zusammenarbeiten, um Daten zu verarbeiten und Vorhersagen zu treffen.
Jede Schicht hat eine spezifische Aufgabe.
Die drei Haupttypen von Schichten sind:

1. Eingabeschicht
2. Verborgene Schichten
3. Ausgabeschicht

Schichten sind entscheidend, weil sie es dem Netzwerk ermöglichen, komplexe Muster in den Daten zu erkennen.
Je mehr Schichten ein Netzwerk hat, desto "tiefer" ist es und desto komplexere Beziehungen kann es lernen.
Alle Schichten sind über Verbindungen miteinander verknüpft, die es ermöglichen, Daten von einer Schicht zur nächsten weiterzuleiten. Diese Verbindungen spielen eine zentrale Rolle bei der Datenverarbeitung.

Verbindungen und gewichtete Eingaben

Die Schichten in einem Neuralen Netzwerk sind durch Verbindungen miteinander verknüpft. Jedes Neuron in einer Schicht ist mit allen Neuronen der nächsten Schicht verbunden, während Neuronen innerhalb der selben Schicht nicht miteinander verbunden sind. Diese Verbindungen haben Gewichte, die die Stärke der Verbindungen bestimmen. Die Gewichte werden während des Trainings angepasst, um die Genauigkeit der Vorhersagen zu verbessern.

Jede Eingabe, die ein Neuron von der vorherigen Schicht erhält, wird mit einem Gewicht multipliziert. Diese multiplizierten Eingaben werden als gewichtete Eingaben bezeichnet. Die Gewichte bestimmen, wie stark eine Eingabe das Neuron beeinflusst. Ein höheres Gewicht bedeutet, dass die Eingabe einen größeren Einfluss auf die Ausgabe des Neurons hat.

Eingabeschicht

Die Eingabeschicht ist die erste Schicht des Netzwerks und empfängt die Rohdaten. Diese Daten müssen in eine numerische Form gebracht werden, bevor sie in das Netzwerk eingespeist werden können. Zum Beispiel:

• Bei Bildern werden die Pixelwerte in eine Liste von Zahlen umgewandelt.
• Bei Texten werden Wörter oder Buchstaben in Zahlen codiert (z. B. durch One-Hot-Encoding oder Word Embeddings).

Die Eingabeschicht leitet die eingegebenen Daten über die Verbindungen an die nächste Schicht weiter, ohne selbst Berechnungen durchzuführen.

Verborgene Schichten

Die verborgenen Schichten sind das Herzstück eines Neuralen Netzwerks. Hier finden die meisten Berechnungen statt. Jede verborgene Schicht besteht aus einer Reihe von Neuronen, die die Daten durch mathematische Operationen verarbeiten.

Die Rolle der verborgenen Schicht besteht darin, Muster und Zusammenhänge in den Daten zu erkennen.
Zum Beispiel:

• In der ersten verborgenen Schicht könnten einfache Merkmale wie Kanten in einem Bild erkannt werden.
• In tieferen Schichten könnten komplexere Merkmale wie Gesichter oder Objekte identifiziert werden.

Je mehr Schichten ein Netzwerk hat, desto komplexere Muster kann es erkennen. Dies ist der Grund, warum tiefe Neurale Netzwerke (Deep Neural Networks) so leistungsfähig sind.

Ausgabeschicht

Die Ausgabeschicht ist die letzte Schicht des Netzwerks und hat die Aufgabe, die Vorhersage des Netzwerks in ein angemessenes Format zu bringen, das für die jeweilige Aufgabe geeignet ist.
Die Ausgabeschicht kann je nach Aufgabe unterschiedlich aussehen:

• Bei einer Klassifizierungsaufgabe (z. B. Bilderkennung) könnte die Ausgabeschicht die Wahrscheinlichkeiten für verschiedene Klassen liefern (z. B. 80 % Hund, 20 % Katze). Dies wird oft durch eine Softmax-Aktivierungsfunktion erreicht, die die Ausgaben in Wahrscheinlichkeiten umwandelt.
• Bei einer Regressionsaufgabe (z. B. Preisvorhersage) könnte die Ausgabeschicht einen kontinuierlichen Wert liefern (z. B. den vorhergesagten Preis eines Hauses). Hier wird oft eine lineare Aktivierungsfunktion verwendet, um den Ausgabewert direkt zu liefern.

Deep Neural Networks

Ein Deep Neural Network (DNN) ist ein Neurales Netzwerk mit mehreren verborgenen Schichten. In der Praxis wird ein Netzwerk oft als "tief" betrachtet, wenn es mehr als drei Schichten hat (d.h. mehr als eine verborgene Schicht). Der Begriff "tief" bezieht sich auf die Anzahl der Schichten, nicht auf die Komplexität der Berechnungen. Tiefe Neurale Netzwerke sind besonders gut darin, sehr komplexe Muster in Daten zu erkennen, was sie ideal für Aufgaben wie Bilderkennung, Spracherkennung und natürliche Sprachverarbeitung macht.

Zusammenfassung

• Ein Neurales Netzwerk besteht aus Eingabe-, verborgenen und Ausgabeschichten.
• Alle Schichten sind über Verbindungen miteinander verknüpft, die es ermöglichen, Daten von einer Schicht zur nächsten weiterzuleiten.
• Die Verbindungen haben Gewichte, die die Stärke der Verbindungen bestimmen.
• Gewichtete Eingaben sind die Eingaben, die mit ihren jeweiligen Gewichten multipliziert wurden.
• Die Eingabeschicht empfängt numerische Daten und leitet sie über gewichtete Verbindungen an die nächste Schicht weiter.
• Die verborgenen Schichten verarbeiten die Daten und erkennen Muster und Zusammenhänge.
• Die Ausgabeschicht formatiert die Vorhersage des Netzwerks in ein angemessenes Format für die jeweilige Aufgabe.
• Tiefe Neuronale Netzwerke haben mehr als drei Schichten (d. h. mehr als eine verborgene Schicht) und sind besonders leistungsfähig, da sie komplexe Muster in Daten erkennen können.