Informationen zu künstlichen Netzwerken (Artifitial Neural Network = ANN) finden sich reichlich im Internet. Hier zeige ich nur den elementaren Fall der Backpropagation. Das Netz soll lernen die zehn Zahlen "0", "1", ..., "8", "9" zu erkennen. (Eine der klassischen Lernaufgaben für ein ANN.)

Es werden beim Lernen gezeichnete Zahlen (zerlegt auf einzelne Punkte) als Input genutzt, und das, was ANN erkannt hatte, wird mit der korrekten Antwort verglichen. Fehler, der sich aus diesem Vergleich ergibt, wird bei Berechnung der Änderungen der Gewichte einzelner Verbindungen verwendet.

Starten Sie bitte die 4 Varianten der Reihe nach: Lernen, Testen, Schaden, Reha
V O R S I C H T: Eine Epoche beim Lernen dauerte (bei mir) ca.6 Sekunden !

TRAINING START

Starten Sie bitte das Training mit dem Schalter. Links sehen Sie die Lernkurve (reziproke Lernkurve nach H.Ebbinghaus). Was passiert, wenn manche Neuronen des Netzes plötzlich nicht mehr funktionieren? Ist es ein Infarkt des künstlichen Netzwerkes? Und kann man es irgendwie rehabilitieren?

Die wichtigen Begriffe beim ANN Training:
Epoche = Die Anzahl Runden, in den ein Datenpaket komplett den Lern-Algorithmus durchläuft,
input-,hidden-, output layer, Neuronenschichten: Eingang, Zwischenschicht, Ausgang.
learning rate, das Maß, wie die Gewichte (Verbindungen) der Neuronen bei Lernen angepasst werden.
die Daten, sind intern gespeicherte Zeichnungen der Zahlen '0,1,..,8,9' der Größe 16x16 Punkte (= 256, daher gibt es 256 Input Neuronen).

Der Rechenvorgang eines Trainings ist umfangreich. Unseren 256 Eingangsneuronen in diesem Beispiel steht eine gigantische Menge Neuronen (schätzungsweise ca.80-100 Milliarden) im menschlichen Gehirn entgegen. Sie können das Training nach der 20. Epoche unterbrechen. Ich empfehle Ihnen aber etwas mehr Geduld: lassen Sie mindestens 40 Epochen durchlaufen. Sie wissen doch: die Wiederholung verbessert das Ergebnis!

Beachten Sie bitte die langsame Reaktion beim Anhalten des Trainings.
Es wird beim Training viel gerechnet, daher erfolgt die Reaktion erst nach Beendigung des Rechenzyklus.
Beim Testen zeichnen Sie bitte eine beliebige Zahl in dem erschienen Fenster. Bei der Übernahme können Sie unten sehen, welche Zahl das ANN erkannt hatte. Sie können weiter sehen, ob das Erkennen eindeutigt war und welche Zahl wird als zweitähnlichste geschätzt. Sie können beliebig viel das ANN testen. Unterbrechen können Sie das Testen mit dem Klick auf den Schalter.

Wie wollen wir einen Schlaganfall in diesem Netz simulieren? Ähnlich dem, wie es bei Menschen geschieht: eine Neuronengruppe hört auf zu funktionieren, sei es wegen eines Traumas, einer gestörten Blutversorgung (Thrombus oder Blutung) oder eines krankhaften Prozesses.
Schalten Sie einige Neuronen der mittleren Schicht ab. Hier können Sie den Umfang der Störung bestimmen. Gleich erfahren Sie, was s.g. "gratefull degradation" bedeutet. Anders als bei anderen Systemen (Pkw, Fernseher, usw.) führt die Störung in einem oder sogar mehreren Bereichen des ANN nicht gleich zu einem Totalausfall der Funktionen. Unser ANN wird weiter funktionieren, aber eben nicht so zuverlässig, wie vor der Ereignis.
Fragen dazu ?

Nichts hindert Sie daran, hier ein bischen zu experimentieren. Neue Ideen oder Vorschläge?