Backpropagation-Algorithmus
Backpropagation (auch Fehlerrückführung oder Rückwärtspropagierung) ist ein wichtiges mathematisches Werkzeug zur Verbesserung der Vorhersagegenauigkeit beim Data Mining und maschinellen Lernen. Im Wesentlichen ist Backpropagation ein Algorithmus, der zur schnellen Berechnung von Ableitungen verwendet wird.
Künstliche neuronale Netze verwenden Backpropagation als Lernalgorithmus, um einen Gradientenabstieg in Bezug auf Gewichtungen zu berechnen. Die gewünschten Ausgaben werden mit den erreichten Systemausgaben verglichen, und dann werden die Systeme durch Anpassung der Verbindungsgewichte so eingestellt, dass der Unterschied zwischen den beiden so gering wie möglich ist. Der Algorithmus hat seinen Namen daher, dass die Gewichtungen rückwärts aktualisiert werden, von der Ausgabe zur Eingabe.
Die Schwierigkeit, genau zu verstehen, wie sich die Änderung von Gewichtungen und Verzerrungen auf das Gesamtverhalten eines künstlichen neuronalen Netzes auswirkt, war einer der Faktoren, die eine breitere Anwendung neuronaler Netze verhinderten, und zwar bis Anfang der 2000er Jahre, als Computer die notwendigen Erkenntnisse lieferten. Heute finden Backpropagation-Algorithmen in vielen Bereichen der künstlichen Intelligenz (KI) praktische Anwendung, zum Beispiel bei der optischen Zeichenerkennung (Optical Character Recognition, OCR), der Verarbeitung natürlicher Sprache (Natural Language Processing, NLP) und der Bildverarbeitung.
Da Backpropagation eine bekannte, gewünschte Ausgabe für jeden Eingabewert erfordert, um den Gradienten der Verlustfunktion zu berechnen, wird es in der Regel als eine Art des überwachten maschinellen Lernens eingestuft. Zusammen mit Klassifizierern wie Naïve-Bayes-Filtern und Entscheidungsbäumen hat sich der Backpropagation-Algorithmus zu einem wichtigen Bestandteil von Anwendungen des maschinellen Lernens entwickelt, die prädiktive Analysen (Predictive Analytics) beinhalten.
