Die Backpropagation-Lernregel kann grundsätzlich auf zwei verschiedene Arten durchgeführt werden. Beim Batch-Learning wird die Korrektur der Gewichte erst nach der Bestimmung aller Gewichtsänderungen durchgeführt. Als Alternative bietet sich das On-Line-Training, bei dem die Gewichtskorrekturen unmittelbar während jeder Backward-Phase nach der Berechnung der Gewichtsänderungen vorgenommen werden. Neben den algorithmischen Unterschieden differieren beide Verfahren auch in ihrer Konvergenzgeschwindigkeit auf unterschiedlichen Trainingsmengen.