Zum Hauptinhalt springen

Studierendenprojekte

Hardwarebeschleunigung für neuronale Netze

Analyse des i.MX 8M Plus für industrielle Anwendungen

Seit der breiten Einführung KI-gestützter Systeme stößt diese Technik auch immer weiter in industrielle Anwendungsfelder vor. Die Anforderungen an maschinelles Lernen steigen damit erheblich. Gefordert werden reproduzierbar kleine Ausführungszeiten sowie ein hoher Integrationsgrad bei maximaler Zuverlässigkeit. Besonders die Geschwindigkeitsanforderungen haben in den letzten Jahren vermehrt zu speziell für diesen Einsatzzweck angefertigten Halbleiterchips geführt: Neuronale Rechenbeschleuniger führen mathematische Operationen in Hardware aus und beschleunigen damit neuronale Netze. Industrielle Anwendungen profitieren unter anderem durch Bildklassifizierungsanwendungen, wie sie in Verkehrsleitsystemen, der Qualitätskontrolle oder in der Medizin eingesetzt werden.

Im Studiengang Informationstechnik & System-Management wurde in diesem Kontext der i.MX 8M Plus Chip des Herstellers NXP auf seine Tauglichkeit im industriellen Einsatz untersucht. NXP liefert das IC als System-on-a-Chip aus – tatsächlich fungiert der neuronale Rechenbeschleuniger (NPU) als Zusatzprozessor für einen komplexen Chip. Ein System-on-a-Chip, wie es zum Beispiel am Raspberry Pi verwendet wird, enthält CPUs sowie Speichercontroller, Peripheriecontroller und weitere Zusatzmodule. Damit sind im Vergleich zu herkömmlichen Lösungen, wie zum Beispiel Grafikkarten, hoch integrierte und platzsparende Systeme möglich.

Zur Evaluierung und Analyse kam das passende Evaluation Board des Herstellers zum Einsatz. Die Untersuchung erfolgte anhand unterschiedlicher Aspekte. Zum Einen wurde der Weg von der Modellierung über das Training bis zur Ausführung einer Machine Learning Anwendung beleuchtet und bewertet. Zum Anderen wurde mithilfe speziell angefertigter Stresstests anhand von Vergleichssystemen die Leistungsfähigkeit des i.MX 8M Plus ausgewertet. Die verwendeten Stresstests klassifizieren Bilder unter der Nutzung von TensorFlow Lite in Python.

Die Analysen zeigen klare Vor- und Nachteile des Systems: Im Vergleich zu klassischen Computersystemen ist eine sehr hohe Beschleunigungsleistung für neuronale Netze festzustellen, jedoch liegt die Leistung der CPU-Kerne unterhalb derer eines Desktop-Computers. Müssen Bilder vor der Klassifizierung skaliert werden, kann das zu Performanceproblemen führen. Die gesammelten Daten ermöglichen Rückschlüsse auf geeignete und herausfordernde Einsatzgebiete des i.MX 8M Plus und ermöglichen eine erste Einschätzung bei einem geplanten Einsatz.

Facts:
Projekt-BetreuerFH-Prof. DI Dr. Stefan Huber, MSc
Typ: Bachelorprojekt
Studierende: Konstantin Brettfeld, Paul Rohrmoser und Michael Hafner
Studiengang: Bachelor Informationstechnik & System-Management

Foto: FH Salzburg / Brettfeld, Hafner und Rohrmoser