Dieser Beitrag beschreibt nur das Vorgehen und technische Grundlagen. Die konkreten Schritte folgen im Anschluss.

Benutzte Hardware

Für dieses Beispiel werden folgende Komponenten genutzt:

Es kann jedoch prinzipiell jeder IPC mit einem Google Coral dafür genutzt werden

Beschreibung des Ablaufs

In diesem Beispiel soll das MobileNetV1, das angepasst wurde SIMATIC Komponenten zu erkennen, auf der speziellen Hardwareplattform des Google Coral TPU laufen.

1. Hierzu wird das MobileNetV1 wie im vorgehenden Beitrag „Training eines CNN für Bildklassifizierung“ beschrieben zunächst trainiert. An dieser Stelle besteht die Möglichkeit das Training des Neuronalen Netzes bereits auf die Zielplattform anzupassen. Dies erfolgt über Quantization aware training und ist auch aufgrund höherer Genauigkeit des Ergebnisses zu bevorzugen. In dieser Reihe werden wir allerdings von dieser Funktion keinen Gebrauch machen, da es für einen Vergleich der verschiedenen Plattformen dienlicher ist den gleich folgenden Weg zu wählen.
2. Anschließend kann das trainierte Model abgespeichert werden.
3. Jetzt erfolgt die Konvertierung in TensorFlow Lite, dabei handelt es sich um Tools, die Optimierungen für Leistungsschwächere Hardware vornehmen.
   Im gleichen Schritt erfolgt die Post-training quantization. Die Quantisierung ist notwendig, damit von der Hardwarebeschleunigung Gebrauch gemacht werden kann. Durch die Quantisierung werden 32-bit Gleitkommazahlen (floating-point) Zahlen zu 8-bit Werten konvertiert. Dies ergibt eine drastische Reduktion der Größe und Laufzeit des MobileNetV1, sowie gleichzeitig auch einen Verlust der Genauigkeit. Weitere Informationen hierzu sind auf der Coral.ai Website zu finden.
4. Nachdem das Modell nun quantisiert und im TF Lite Format vorliegt, kann es mit einem Compiler für die Ausführung auf der Google Coral TPU kompiliert werden.
5. Das Ergebnis kann anschließend auf den IPC geladen werden. Als Ergänzung zum MobileNetV1 muss noch ein Programm erstellt werden, welches den Input und den Output für das Modell handhabt.

Abbildung 1: Nach https://www.coral.ai/docs/edgetpu/models-intro/#compatibility-overview