feat: PLA und Pocket-Algorithmus implementiert

algorithm/pla/perceptron_learning_algorithm.py

+import random
+
+import numpy as np
+
+from algorithm.pla.perceptron import Perceptron
+
+
+def train(perceptron: Perceptron, training_data: list, max_iterations: int, learning_rate: float):
+    """ Trainiert ein Perzeptron nach dem PLA-Algorithmus """
+
+    # Wiederhole bis keine Fehler gemacht werden oder die maximale Anzahl an Iterationen erreicht wurden
+    for i in range(max_iterations):
+
+        # Durchlaufe alle Testdatenpaare. Ein Paar besteht aus einem Merkmalsvektor und einer korrekten Klassifizierung
+        wrong_classifications = []
+        for features, correct_class in training_data:
+            result = perceptron.classify(features)
+
+            # Falls das Ergebnis falsch ist, merken wir uns die Ergebnisse
+            if result != correct_class:
+                wrong_classifications.append((features, correct_class, result))
+
+        # Keine Fehler? Wir können aufhören mit trainieren
+        if len(wrong_classifications) == 0:
+            break
+
+        # Doch Fehler? Wähle eine zufällige falsche Klassifizierung und update die Gewichte
+        features, correct_class, result = random.choice(wrong_classifications)
+        update_weight(perceptron, features, correct_class, result, learning_rate)
+
+
+def train_pocket(perceptron: Perceptron, training_data: list, max_iterations: int, learning_rate: float):
+    """ Trainiert ein Perzeptron nach dem Pocket-Algorithmus """
+
+    # Initialisiere den Zwischenspeicher ("Pocket") für das beste Ergebnis
+    min_false_classifications = len(training_data)
+    best_weights = []
+
+    # Wiederhole bis keine Fehler gemacht werden oder die maximale Anzahl an Iterationen erreicht wurden
+    for i in range(max_iterations):
+
+        # Durchlaufe alle Testdatenpaare. Ein Paar besteht aus einem Merkmalsvektor und einer korrekten Klassifizierung
+        wrong_classifications = []
+        for features, correct_class in training_data:
+            result = perceptron.classify(features)
+
+            # Falls das Ergebnis falsch ist, merken wir uns die Ergebnisse
+            if result != correct_class:
+                wrong_classifications.append((features, correct_class, result))
+
+        # Wir sind alle Testdaten durchlaufen und haben eine minimale Fehlerrate?
+        # --> Wir merken uns die Gewichte
+        if len(wrong_classifications) > min_false_classifications:
+            min_false_classifications = len(wrong_classifications)
+            best_weights = perceptron.weights
+
+        # Keine Fehler? Wir können aufhören mit trainieren
+        if len(wrong_classifications) == 0:
+            break
+
+        # Doch Fehler? Wähle eine zufällige falsche Klassifizierung und update die Gewichte
+        features, correct_class, result = random.choice(wrong_classifications)
+        update_weight(perceptron, features, correct_class, result, learning_rate)
+
+    perceptron.weights = best_weights
+
+
+def update_weight(perceptron, features, correct_class, classification, learning_rate):
+    correction_factor = (correct_class - classification)
+    multiplied_features = learning_rate * correction_factor * np.array([1] + features)
+    new_weights = np.add(multiplied_features, np.array(perceptron.weights))
+    perceptron.weights = new_weights.tolist()

algorithm/pla/test_pla.py

+from algorithm.pla.perceptron import Perceptron
+from algorithm.pla.transfer_functions import normalized_tanh
+from algorithm.pla.perceptron_learning_algorithm import train_pocket, update_weight
+from server.testserver import get_testdata, send_result
+
+
+def test_pla():
+    response = get_testdata("perceptron_training")
+
+    learning_rate = response['learning-rate']
+    initial_weights = response['initial-weights']
+
+    # Der Threshold ist der erste Wert in der Liste.
+    # Der Rest sind die anderen Gewichte
+    threshold = initial_weights[0] * -1
+    weights = initial_weights[1: len(initial_weights)]
+
+    perceptron = Perceptron(weights, threshold, normalized_tanh)
+
+    results = []
+    for data in response['training-data']:
+        # Hole die einzelnen Traningsdaten
+        test_id = data['id']
+        features = data['input']
+        correct_class = data['class']
+
+        classification = perceptron.classify(features)
+        update_weight(perceptron, features, correct_class, classification, learning_rate)
+
+        # Hänge das Ergebnis in der Liste an
+        results.append({'id': test_id, 'weights': perceptron.weights})
+
+    send_result('perceptron_training', {'session': response['session'], 'results': results})
+
+
+if __name__ == '__main__':
+    test_pla()