Embedded Machine Learning

Durch Machine Learning (ML) wird elektronischen Systemen ermöglicht, aus vorhandenen Daten selbstständig zu lernen und dieses erlernte Wissen einzusetzen, um eigenständig Bewertungen, Vorhersagen und Entscheidungen zu treffen. Solche Anwendungen sind sehr rechenintensiv und werden deshalb klassischerweise auf PCs und Cloud-Servern durchgeführt. Dank neuer Konzepte und Algorithmen sowie leistungsfähiger Spezialprozessoren ist es inzwischen möglich maschinelles Lernen direkt auf den im Feld eingesetzten Geräten auszuführen (= Embedded Machine Learning).

Symbolbild Embedded Machine Learning
© xiaoliangge - stock.adobe.com
Embedded Machine Learning kann die Qualitätssicherung und Zustandsüberwachung unterstützen

Embedded-Geräte für Machine-Learning-Anwendungen können in der Industrie vielfältige Aufgaben erfüllen. Ein typisches Beispiel sind Sensorgeräte, die akustische oder optische Auffälligkeiten und Abweichungen detektieren, und so die Qualitätssicherung in der Produktion oder die Zustandsüberwachung von Anlagen unterstützen. Neben Kameras für die Überwachung visueller Parameter und Mikrofonen zur Erfassung von Schallwellen kommen beispielsweise auch Vibrations-, Berührungs-, Spannungs-, Strom-, Drehzahl-, Druck- und Temperatursensoren zum Einsatz.

Warum Embedded Machine Learning?

Vor allem durch das Internet of Things (IoT) steigt die Zahl eingesetzter Sensoren rasant an und mit ihr auch die Menge an Daten, die von Embedded- und IoT-Systemen erfasst werden. Obwohl auch die Übertragungstechnologie sich weiterentwickelt und mit dem neuen 5G-Netz ein leistungsfähiges Datennetz zur Verfügung stehen wird, ist eine vollständige Übertragung von Sensordaten in die Cloud nicht immer sinnvoll oder möglich. Dafür gibt es verschiedenen Gründe, die in vielen Fällen für den Einsatz von Embedded Machine Learning sprechen:

Netzkosten Überlastung der Netze sowie Kosten für den entstehenden Datenverkehr
Abdeckung nicht überall sind die Abdeckung oder die verfügbaren Datenraten ausreichend, z.B. in Untergeschossen, Tunneln, entlegenen Gebiete etc.
Latenz zu große Roundtrip-Zeit für Übertragung von Sensordaten und Rückübertragung der Aktoranweisungen, insbesondere bei Echtzeitanwendungen, die eine schnelle Reaktion benötigen
Privacy Audio- und Videoaufnahmen aus Industrieanlagen dürfen oft nicht nach außen gelangen – hier könnte das Ausspähen durch die Vor-Ort-Verarbeitung von Daten erschwert werden
Datenhoheit Nutzer bzw. Anlagenbetreiber sollen über den Verbleib der Daten bestimmen können
Security und Safety Gefahr der Manipulation von Daten und Geräten
Leistungsaufnahme Funksender und -empfänger benötigen relativ hohe Leistungen
Formfaktor z.B. müssen geeignete Antennen ins Gerät integriert werden können

Optionen für Embedded Machine Learning

Um die genannten Probleme zu vermeiden, kann häufig zumindest ein Teil der Sensorsignale lokal im Embedded-Gerät verarbeitet werden. Für einfache Sensordaten ist dies mit Standard-Mikrocontrollern möglich. Mikrocontroller sind beispielsweise für einfache Machine-Learning-Probleme und Anwendungen mit wenigen Kanälen und niedriger Abtastrate, bei denen die Auswertung nicht zu häufig erfolgen muss, gut geeignet. Für komplexere Auswertungen, z.B. im Falle von Bildsensoren, kommen auch spezialisierte Deep-Learning-Beschleuniger zum Einsatz. Für andere Anwendungen, wie z.B. Spracherkennung, kann ein Beschleuniger-IP-Core auf einem FPGA sinnvoll sein und bei Anwendungen mit großen Stückzahlen stellen ASICs eine geeignete Option dar.

Unser Angebot

Das Fraunhofer IIS deckt sowohl mikrocontroller-basiertes Machine Learning wie auch die Verwendung von Embedded-Chips mit Deep-Learning-Beschleunigern ab. Für ein gegebenes Problem ermitteln wir nach einer Analyse der Systemanforderungen die geeigneten Algorithmen und besten Hardware-Optionen. Anschließend führen wir mit unseren Kunden eine Trade-Off-Analyse für diese Optionen durch, um die optimale Lösung zu finden. Die schließlich gewählte Option kann von uns auf kommerzieller oder eigens entwickelter Hardware implementiert und in das Zielsystem integriert werden.

Grafik: Vorgehensweise zur Lösung von Machine-Learning-Problemen auf Embedded-Geräten
© Fraunhofer IIS
Unsere Vorgehensweise zur Lösung von Machine-Learning-Problemen auf Embedded-Geräten

Die Auswertung von Sensordaten ist ein Kern des Leitthemas Kognitive Sensorik am Fraunhofer IIS. Beim Thema Embedded Machine Learning baut das Fraunhofer IIS auf seiner langjährigen Erfahrung auf den Gebieten Maschinelles Lernen, Embedded-Plattformen, Sensorik, Signalverarbeitung und neuromorphe Hardware auf.