Künstliche Neuronale Netze im Open Roberta Lab

Die Aktivierungsfunktion ist eine mathematische Funktion in einem Neuronalen Netz, die die Ausgabe eines Neurons beeinflusst. Jedes Neuron in einem Neuronalen Netz nimmt Eingaben entgegen, gewichtet sie und wendet dann eine Aktivierungsfunktion auf die gewichtete Summe an, um die Ausgabe zu erzeugen. Es gibt verschiedene Arten von Aktivierungsfunktionen: Lineare Funktion, Sigmoidfunktion, Tanh, ReLU (Rectified Linear Unit).

Für die Arbeit im Open Roberta Lab bietet sich die lineare Funktion an. Sie führt bei einfachen Aufgaben zu guten Ergebnissen und eignet sich aufgrund der leichten Erklärbarkeit besonders für den Einstieg.

Backpropagation ist ein Lernverfahren, das im Künstlichen Neuronalen Netz verwendet wird. Es hilft dem Netz, aus Fehlern zu lernen und seine Leistung zu verbessern. Die Anpassung der Gewichte erfolgt mit einem Optimierungsalgorithmus, der sicherstellt, dass das Netz die Gewichtungen und Bias-Werte so ändert, dass der Fehler reduziert wird.

Bias ist ein Wert, der zu den Eingaben und Gewichtungen eines Neurons hinzugefügt wird, bevor er durch eine Aktivierungsfunktion geht. Dieser zusätzliche Wert ermöglicht es dem Neuron, auch dann aktiviert zu werden, wenn alle Eingabewerte null sind. Bei manchen Aktivierungsfunktionen (z.B. ReLU) kann der Bias auch eine »hemmende Wirkung« haben. Hier wird das Neuron erst dann aktiviert, wenn ein bestimmter negativer »Schwellenwert« überschritten wird.

In Bezug auf Neuronale Netze bezeichnet eine Epoche einen vollständigen Durchlauf aller Trainingsdaten während des Trainingsprozesses. In anderen Worten: Während einer Epoche sieht das Neuronale Netz jeden Trainingsdatensatz einmal.

Kantengewichte (auch einfach Gewichte genannt) sind Zahlen, die bestimmen, wie wichtig oder unwichtig die Verbindungen zwischen den Neuronen sind. Durch die Anpassung dieser Gewichte lernt das Netz, Daten richtig zu verarbeiten und Muster zu erkennen.

Während des Trainings (des Lernens) des Neuronalen Netzes werden diese Gewichte angepasst, um das Netz dazu zu bringen, die gewünschten Ausgaben für bestimmte Eingaben zu erzeugen. Der Lernprozess besteht darin, die Gewichte so zu optimieren, dass das Netz die richtigen Muster und Beziehungen in den Daten erkennt.

Die Lernrate ist wie die Größe der Schritte, die ein Computerprogramm macht, um zu lernen. Wenn die Lernrate hoch ist, lernt das Programm schnell, aber es könnte wichtige Dinge übersehen. Wenn die Lernrate niedrig ist, lernt das Programm genauer, aber es dauert länger. Es ist wichtig, die richtige Lernrate zu finden, damit das Programm gut und schnell lernt.

Ein Neuron in einem Neuronalen Netz ist die grundlegende Recheneinheit, die Informationen verarbeitet. Es wird auch als »künstliches Neuron« oder »Perzeptron« bezeichnet. Ein Neuronales Netz besteht aus vielen solcher Neuronen, die in Schichten angeordnet sind.

Das künstliche Neuron nimmt Eingaben entgegen (Eingabe-Neuron), multipliziert sie mit bestimmten (Kanten-)Gewichten, addiert sie und wendet auf das Ergebnis eine Aktivierungsfunktion an. Die Aktivierungsfunktion bestimmt, ob und wie stark das Neuron aktiviert wird und welche Informationen es an die nächsten Neuronen weitergibt, bis die Information über Ausgabe-Neuronen zur Verfügung steht.

Das Trainingsloss (auch Trainingsverlust genannt) ist ein Maß dafür, wie gut ein Neuronales Netz während des Trainings Aufgaben löst. Es misst den Unterschied zwischen den vorhergesagten Ausgaben des Netzes und den tatsächlichen Zielwerten (auch Labels genannt) für die Trainingsdaten. Trainingsloss ist eine Art »Fehler«, der angibt, wie weit die Vorhersagen des Neuronalen Netzes von den tatsächlichen Werten entfernt sind. Während des Trainingsprozesses wird versucht, dieses Loss zu minimieren, indem die Gewichtungen und Bias-Werte des Netzes angepasst werden.

Ein Neuronales Netz kann in Schichten eingeteilt werden. Die erste Schicht erhält Eingaben (Werte) über die Eingabe-Neuronen, die letzte gibt Ausgaben (Werte, die als Wahrscheinlichkeiten interpretiert werden, die sogenannten Ausgabe-Neuronen) aus. Dazwischen gibt es »versteckte« bzw. »verborgene« Schichten, weil wir ihre Arbeit nicht direkt sehen können. Diese verborgenen Schichten lernen, komplexe Muster in den Daten zu verstehen, indem sie Eingaben miteinander kombinieren. Sie sind wichtig, um schwierige Probleme zu lösen. Die Anzahl und Größe dieser versteckten Schichten beeinflussen, wie gut das Netz funktioniert.