Fraunhofer-Institut für Integrierte Schaltungen IIS
Fraunhofer-Institut für Integrierte Schaltungen IIS
3D render AI artificial intelligence technology CPU central processor unit chipset on the printed circuit board for electronic and technology concept select focus shallow depth of field
© istock

© iStock

Efficient AI

Energieeffiziente KI für die Zukunft - On-Device Inferenz und Training

Sei es für die Automatisierung von Prozessen, sei es für die Analyse großer Datenmengen: Intelligente und selbstlernende Systeme werden in Unternehmensprozessen zunehmend wichtiger. Bisher müssen diese intelligenten Systeme stets in Verbindung mit einer Cloud stehen, da diese die benötigte Rechenleistung für KI-Modelle bereitstellt. Mit Edge AI, kurz für Edge Artificial Intelligence, kommt nun die nächste Generation von intelligenten Systemen ins Haus: Die Intelligenz wird dabei direkt in die Endgeräte verlagert.

Datenschutz und Datenverarbeitung

Wir setzen zum Einbinden von Videos den Anbieter YouTube ein. Wie die meisten Websites verwendet YouTube Cookies, um Informationen über die Besucher ihrer Internetseite zu sammeln. Wenn Sie das Video starten, könnte dies Datenverarbeitungsvorgänge auslösen. Darauf haben wir keinen Einfluss. Weitere Informationen über Datenschutz bei YouTube finden Sie in deren Datenschutzerklärung unter: https://policies.google.com/privacy

Vorteile von Edge AI

Energieeffizienz und Ressourcenschonung

Die TinyML braucht, um ML-Anwendungen auszuführen, bis zu tausendmal weniger Strom im Vergleich zu einer Standard-GPU. Der Grund hierfür ist unter anderem das lokale Ausführen der Modelle, statt die Daten hin- und herzusenden. Aus diesem Grund können die TinyML-Geräte je nach Anwendungsfall teilweise jahrelang ohne Batterien betrieben werden.

Auch die Größe der benötigten Batterien und somit die Nutzung von wertvollen Ressourcen verringert sich durch die erhebliche Energieeinsparung.

Echtzeit

 

Da das Modell lokal ausgeführt wird, müssen die Rohdaten, um die Inferenz durchzuführen, nicht erst an die Cloud gesendet und im verarbeiteten Zustand wieder zurückgesendet werden. Dadurch verringert sich die Latenzzeit der Ausgabe sowie der Bedarf an Kommunikationsbandbreite, was wiederum eine schnelle Reaktion ermöglicht.

Unabhängigkeit, Datenschutz und Sicherheit

 

Der Anwender steht in keiner Abhängigkeit zu einem Cloud-Service-Anbieter. Da die Daten somit nicht mit Externen geteilt werden müssen, trägt dies letztlich auch zum Schutz der Privatsphäre bei.

Außerdem besteht keine Abhängigkeit von einer Kommunikationsverbindung.
Das Risiko möglicher Störungen bei der Übertragung zwischen dem eingebetteten System und der Cloud wird also beseitigt.

Become a Certified Data Scientist Specialized in Edge AI

Edge AI ermöglicht Machine Learning auf Mikrocontrollern und öffnet Türen zu vielfältigen Anwendungsgebieten. Die Schulung richtet sich an Fachkräfte mit Datenanalyse-Erfahrung und an Hardware-Entwickler, die ihr Wissen in Machine Learning vertiefen möchten.

Sie lernen, ML-Anwendungen auf Mikrocontrollern zu entwickeln, Herausforderungen frühzeitig zu erkennen und entsprechende Strategien zu entwickeln. Nutzen Sie unser umfassendes Know-how für Ihren Erfolg.

Unser Leistungsangebot

Forschung/Entwicklung

Wir bieten Ihnen Teil- oder komplette F&E-Dienstleistungen.

 

  • Embedded AI: Entwicklungstool zur Entwicklung von embedded KI-Lösungen zur Kosteneinsparung und Qualitätssteigerung Ihrer Anwendung.
  • Optimiertes KI-Modell für Ihre Hardware: eine maßgeschneiderte Lösung angepasst an Ihre Hardware mit optimierter Leistung durch KI.
  • Mentoring: Wir begleiten Sie bei Ihren F&E-Projekten von der Datenaufnahme bis hin zur Entwicklung eines KI-Modells.

 

Beratung

Wir beraten und unterstützen Sie bei Ihrem individuellen Anliegen rund um Ihre KI-Lösungen.

 

  • Potenzialanalysen: Wir führen eine schnelle Potenzialanalyse zu Ihrem persönlichen Anliegen durch.
  • Richtungsentscheidungen: Wir geben Ihnen wegweisende Unterstützung durch die Erstellung eines automatisierten Reports, der Sie bei ersten Richtungsentscheidungen zu Ihrem persönlichen Projekt unterstützt. 
  • Hardwareempfehlungen: Wir beraten Sie bezüglich der geeigneten Hardware und geben Ihnen Empfehlungen für den Einsatz bei Ihrer KI-Lösung.
  • Persönliche Begleitung: Unser interdisziplinäres Team und das Netzwerk am IIS begleitet Sie bei Ihrem persönlichen Projekt.

Lizenzierung

Eventuell haben wir bereits das richtige KI-Modell entwickelt und dies kann direkt bei Ihrem Anwendungsfall integriert oder von Ihnen lizenziert werden.

 

Wir optimieren Ihre Anwendung durch standardisierte Abläufe und weitestgehende Automatisierung zeitintensiver Arbeiten speziell an Ihren Anwendungsfall angepasst.

Durch Training und automatische Reduktion komplexer KI-Modelle mittels Entfernen von Redundanzen generieren wir optimale KI-Modelle hinsichtlich Genauigkeit und Effizienz.

Wir unterstützen Sie bei einer schnellen Integration!

© pressmaster - Fotolia.com

Zertifizierte Schulung

Wir ermöglichen Ihnen einen schnellen Einstieg in die KI-Lösungen. Unser Schulungsangebot umfasst AutoML-Webinare, Kompetenzschulungen und Seminare zu verschiedenen KI-Themen.

Gerne nutzen wir Ihre Daten für ein maßgeschneidertes Seminar!

Kontaktieren Sie uns!

Wir realisieren die effiziente Bearbeitung Ihrer F&E-Projekte, sowie die Ausbildung von Nachwuchskräften mit diesem neuen Kompetenzprofil.

Kontaktieren Sie uns für eine individuelle Beratung unter:

machine-learning-lv@iis.fraunhofer.de

Anwendungen

 

© Adobe Stock

Vision

Von Agrarwirtschaft über Biodiversität bis hin zur Personenzählung. KI-Analysen direkt hinter dem Kamerasensor ermöglicht zahlreiche neue Anwendungen, ohne viele Rohdaten in die Cloud zu senden. Die Privatsphäre bleibt stets geschützt.

Vision
 

© Fraunhofer IIS/Kurt Fuchs

Condition Monitoring

Durch Maschinelles Lernen in eingebetteten Systemen Zustände von Anlagen und Maschinen überwachen, um frühzeitig reagieren zu können oder die Effizienz zu steigern.

Condition Monitoring

© Adobe Stock

Retail

Wer kennt das nicht: Schon wieder lange Schlangen an der der Kasse.
Mit Privatsphäre schützender KI auf Edge Geräten ist Seamless Shopping jetzt schon möglich.

So bleibt mehr Zeit für die schönen Dinge.

 

© Adobe Stock / RocknRoller Studios - stock.adobe.com

Speech & Audio

Maschinelles Lernen in eingebetteten Sensormodulen für kognitive Sprach- und Audioanalyse. Die Audiokommandos werden ohne Cloud-Verbindung erkannt.

Audio Demo
 

© Fraunhofer IIS

Tools

Machinelles Lernen in eingebetteten Sensormodulen für kognitive Handwerkzeuge, um Montageprozesse zu erkennen und die Qualität sicherzustellen.

KI4Tools

Publikationen

2024

Mutschler, C., Münzenmayer, C., Uhlmann, N., & Martin, A (2024): 

Unlocking Artificial Intelligence: From Theory to Applications

In: Springer

 

Witt, N., Deutel, M., Schubert, J., Sobel, C., & Woller, P. (2024)

Energy-Efficient AI on the Edge

In: Unlocking Artificial Intelligence: From Theory to Applications (pp. 359-380)

 

Deutel, M., Hannig, F., Mutschler, C., & Teich, J (2024):

Fused-Layer CNNs for Memory-Efficient Inference on Microcontrollers

In: Workshop on Machine Learning and Compression, NeurIPS 2024

 

Deutel, M., Hannig, F., Mutschler, C., & Teich, J. (2024):

On-Device Training of Fully Quantized Deep Neural Networks on Cortex-M Microcontrollers

In: IEEE Transactions on Computer-Aided Design of Integrated Circuits and Systems 2024

 

Deutel, M., Mutschler, C., & Teich, J. (2024):

microYOLO: Towards Single-Shot Object Detection on Microcontrollers

In: arXiv preprint arXiv:2408.15865.

 

Herzog, B., Schubert, J., Rheinfels, T., Nickel, C., & Hönig, T. (2024):

GreenPipe: Energy-Efficient Data-Processing Pipelines for Resource-Constrained Systems.

In: Proceedings of the 21st International Conference on Embedded Wireless Systems and Networks (EWSN'24), ACM

2021

Blauberger, P., Marzilger, R., & Lames, M. (2021):

Validation of player and ball tracking with a local positioning system

In: Sensors, 21(4), 1465

 

Potortì, F., Torres-Sospedra, J., Quezada-Gaibor, D., Jiménez, A. R., Seco, F., Pérez-Navarro, A., ... & Oh, H. L. (2021):

Off-line evaluation of indoor positioning systems in different scenarios: The experiences from IPIN 2020 competition

In: IEEE Sensors Journal, 22(6), 5011-5054

 

Löffler, C., Nickel, C., Sobel, C., Dzibela, D., Braat, J., Gruhler, B., ... & Mutschler, C. (2021):

Automated quality assurance for hand-held tools via embedded classification and AutoML

In: Machine Learning and Knowledge Discovery in Databases. Applied Data Science and Demo Track: European Conference, ECML PKDD 2020, Ghent, Belgium, September 14–18, 2020, Proceedings, Part V (pp. 532-535)

2020

Feigl, T., Kram, S., Woller, P., Siddiqui, R. H., Philippsen, M., & Mutschler, C. (2020):

RNN-aided human velocity estimation from a single IMU

In: Sensors, 20(13), 3656

 

Feigl, T., Gruner, L., Mutschler, C., & Roth, D. (2020):

Real-time gait reconstruction for virtual reality using a single sensor

In: 2020 IEEE International Symposium on Mixed and Augmented Reality Adjunct (ISMAR-Adjunct) (pp. 84-89)

 

Redžepagić, A., Löffler, C., Feigl, T., & Mutschler, C. (2020):

A sense of quality for augmented reality assisted process guidance

In: 2020 IEEE International Symposium on Mixed and Augmented Reality Adjunct (ISMAR-Adjunct) (pp. 129-134)

2019

Niitsoo, A., Edelhäußer, T., Eberlein, E., Hadaschik, N., & Mutschler, C. (2019):

A deep learning approach to position estimation from channel impulse responses

In: Sensors, 19(5), 1064

 

Feigl, T., Kram, S., Woller, P., Siddiqui, R. H., Philippsen, M., & Mutschler, C. (2019):

A bidirectional LSTM for estimating dynamic human velocities from a single IMU

In: Computer Vision Foundation (CVF) (Eds.), Joint Workshop on Long-Term Visual Localization, Visual Odometry and Geometric and Learning-based SLAM (pp. 42-43)

2018

Feigl, T., Mutschler, C., & Philippsen, M. (2018):

Supervised learning for yaw orientation estimation

In: 2018 international conference on indoor positioning and indoor navigation (IPIN) (pp. 206-212)

 

Feigl, T., Mutschler, C., & Philippsen, M. (2018):

Human compensation strategies for orientation drifts

In: 2018 IEEE Conference on Virtual Reality and 3D User Interfaces (VR) (pp. 409-414)

 

Feigl, T., Mutschler, C., & Philippsen, M. (2018):

Head-to-body-pose classification in no-pose VR tracking systems

In: 2018 IEEE Conference on Virtual Reality and 3D User Interfaces (VR) (pp. 1-2)