Fraunhofer-Institut für Integrierte Schaltungen IIS
Fraunhofer-Institut für Integrierte Schaltungen IIS
3D render AI artificial intelligence technology CPU central processor unit chipset on the printed circuit board for electronic and technology concept select focus shallow depth of field
© istock

© iStock

Efficient AI

Energieeffiziente KI für die Zukunft - On-Device Inferenz und Training

Sei es für die Automatisierung von Prozessen, sei es für die Analyse großer Datenmengen: Intelligente und selbstlernende Systeme werden in Unternehmensprozessen zunehmend wichtiger. Bisher müssen diese intelligenten Systeme stets in Verbindung mit einer Cloud stehen, da diese die benötigte Rechenleistung für KI-Modelle bereitstellt. Mit Edge AI, kurz für Edge Artificial Intelligence, kommt nun die nächste Generation von intelligenten Systemen ins Haus: Die Intelligenz wird dabei direkt in die Endgeräte verlagert.

Vorteile von Edge AI

Energieeffizienz und Ressourcenschonung

Edge AI benötigt für ML-Anwendungen bis zu tausendmal weniger Strom als eine Standard-GPU, da Modelle lokal ausgeführt werden, anstatt Daten hin- und herzusenden. Dadurch können Geräte mit Edge AI je nach Anwendung jahrelang ohne Batterien betrieben werden. Zudem reduziert sich durch die Energieeinsparung die Größe der benötigten Batterien und der Verbrauch wertvoller Ressourcen.

Echtzeit

 

Da das Modell lokal ausgeführt wird, müssen die Rohdaten, um die Inferenz durchzuführen, nicht erst an die Cloud gesendet und im verarbeiteten Zustand wieder zurückgesendet werden. Dadurch verringert sich die Latenzzeit der Ausgabe sowie der Bedarf an Kommunikationsbandbreite, was wiederum eine schnelle Reaktion ermöglicht.

Unabhängigkeit, Datenschutz und Sicherheit

Der Anwender ist unabhängig von Cloud-Service-Anbietern, wodurch Daten nicht extern geteilt werden müssen und die Privatsphäre geschützt bleibt. Außerdem besteht keine Abhängigkeit von einer Kommunikationsverbindung, wodurch Nachrüsten von KI einfach wird.

Unser Leistungsangebot

Forschung/Entwicklung

Wir bieten Ihnen Teil- oder komplette F&E-Dienstleistungen.

 

  • Embedded AI: Entwicklungstool zur Entwicklung von embedded KI-Lösungen zur Kosteneinsparung und Qualitätssteigerung Ihrer Anwendung.
  • Optimiertes KI-Modell für Ihre Hardware: eine maßgeschneiderte Lösung angepasst an Ihre Hardware mit optimierter Leistung durch KI.
  • Mentoring: Wir begleiten Sie bei Ihren F&E-Projekten von der Datenaufnahme bis hin zur Entwicklung eines KI-Modells.

 

Beratung

Wir beraten und unterstützen Sie bei Ihrem individuellen Anliegen rund um Ihre KI-Lösungen.

 

  • Potenzialanalysen: Wir führen eine schnelle Potenzialanalyse zu Ihrem persönlichen Anliegen durch.
  • Richtungsentscheidungen: Wir geben Ihnen wegweisende Unterstützung durch die Erstellung eines automatisierten Reports, der Sie bei ersten Richtungsentscheidungen zu Ihrem persönlichen Projekt unterstützt. 
  • Hardwareempfehlungen: Wir beraten Sie bezüglich der geeigneten Hardware und geben Ihnen Empfehlungen für den Einsatz bei Ihrer KI-Lösung.
  • Persönliche Begleitung: Unser interdisziplinäres Team und das Netzwerk am IIS begleitet Sie bei Ihrem persönlichen Projekt.

Lizenzierung

Eventuell haben wir bereits das richtige KI-Modell entwickelt und dies kann direkt bei Ihrem Anwendungsfall integriert oder von Ihnen lizenziert werden.

 

Wir optimieren Ihre Anwendung durch standardisierte Abläufe und weitestgehende Automatisierung zeitintensiver Arbeiten speziell an Ihren Anwendungsfall angepasst.

Durch Training und automatische Reduktion komplexer KI-Modelle mittels Entfernen von Redundanzen generieren wir optimale KI-Modelle hinsichtlich Genauigkeit und Effizienz.

Wir unterstützen Sie bei einer schnellen Integration!

© pressmaster - Fotolia.com

Kontaktieren Sie uns!

Wir realisieren die effiziente Bearbeitung Ihrer F&E-Projekte, sowie die Ausbildung von Nachwuchskräften mit diesem neuen Kompetenzprofil.

Kontaktieren Sie uns für eine individuelle Beratung unter:

machine-learning-lv@iis.fraunhofer.de

Werde ein zertifizierter Edge AI Spezialist

 

Edge AI ermöglicht Machine Learning auf Mikrocontrollern und öffnet Türen zu vielfältigen Anwendungsgebieten. Die Schulung richtet sich an Fachkräfte mit Datenanalyse-Erfahrung und an Hardware-Entwickler, die ihr Wissen in Machine Learning vertiefen möchten.

Sie lernen, ML-Anwendungen auf Mikrocontrollern zu entwickeln, Herausforderungen frühzeitig zu erkennen und entsprechende Strategien zu entwickeln. Nutzen Sie unser umfassendes Know-how für Ihren Erfolg.

Jetzt anmelden!

Gewinnen Sie Insights durch unser ML Seminar

 

Mit dem Machine Learning (ML) Webinar verstehen Sie die Grundlagen des maschinellen Lernens und lernen unüberwachte sowie überwachte Lernverfahren, Regression und Klassifikation kennen. Die Algorithmen werden mit Hands-On Beispielen eingeführt.


Sie erlernen die sinnvolle Erhebung und Strukturierung von Daten und können so erprobte Verfahren für schnelle Ergebnisse und Entscheidungen nutzen. Dies hilft Ihnen, im Anschluss Fehler in der Verarbeitungskette zu erkennen und beheben.

Jetzt anmelden!

Anwendungen

 

© Adobe Stock

Vision

Von Agrarwirtschaft über Biodiversität bis hin zur Personenzählung. KI-Analysen direkt hinter dem Kamerasensor ermöglicht zahlreiche neue Anwendungen, ohne viele Rohdaten in die Cloud zu senden. Die Privatsphäre bleibt stets geschützt.

Vision
 

© Fraunhofer IIS/Kurt Fuchs

Condition Monitoring

Durch Maschinelles Lernen in eingebetteten Systemen Zustände von Anlagen und Maschinen überwachen, um frühzeitig reagieren zu können oder die Effizienz zu steigern.

Condition Monitoring

© Adobe Stock

Retail

Wer kennt das nicht: Schon wieder lange Schlangen an der der Kasse.
Mit Privatsphäre schützender KI auf Edge Geräten ist Seamless Shopping jetzt schon möglich.

So bleibt mehr Zeit für die schönen Dinge.

 

© Adobe Stock / RocknRoller Studios - stock.adobe.com

Speech & Audio

Maschinelles Lernen in eingebetteten Sensormodulen für kognitive Sprach- und Audioanalyse. Die Audiokommandos werden ohne Cloud-Verbindung erkannt.

Audio Demo
 

© Fraunhofer IIS

Tools

Machinelles Lernen in eingebetteten Sensormodulen für kognitive Handwerkzeuge, um Montageprozesse zu erkennen und die Qualität sicherzustellen.

KI4Tools
 

Optical Tracking

Die für Menschen naheliegendste Methode des Trackings geht über die Optik, denn den größten Anteil an Umgebungsinformationen erhält er durch die Augen. Das lässt sich auch auf modernste Technologien übertragen...

Optical Tracking

Publikationen

2025

Jain, P., Kasper, M., Köber, G., Amft, O., Plinge, A., & Seuss, D. (2025):

Pareto optimal benchmarking of AI models on ARM Cortex processors for sustainable embedded systems.

In: European Conference on EDGE AI Technologies and Applications (EEAI 2025)

 

Brolich, N., Geis, S., Kasper, M., Barnhill, A., Plinge, A., & Seuss, D. (2025).:

Investigating target class influence on neural network compressibility for energy-autonomous avian monitoring. 

In: European Conference on EDGE AI Technologies and Applications (EEAI 2025).

 

Marchl, A., Kasper, M. Geis, S., Deutel, M., Plinge A., & Seuß, D. (2025):

Anomaly Detection on the Edge for Quality Inspection. 

In: AI in Production Workshop at KI2025

 

Deutel, M., Plinge, A., Seuß, D., Mutschler, C., Hannig, F., & Teich, J. (2025):

Unsupervised learning of variational autoencoders on Cortex-M microcontrollers.

In: IEEE International Symposium on Embedded Multicore/Many-core Systems-on-Chip (MCSoC 2025), Singapore

 

Brans, P. & Witt, N. (2025):

Fraunhofer IIS Walks the Line for Edge AI

In: EE Times Europe Magazine

 

Deutel, M., Kontes, G., Mutschler, C., & Teich, J. (2025):

Multi-Objective Bayesian Optimization with Reinforcement Learning for Edge Deployment of DNNs on Microcontrollers

In: Genetic and Evolutionary Computation Conference (GECCO)

2024

Mutschler, C., Münzenmayer, C., Uhlmann, N., & Martin, A (2024): 

Unlocking Artificial Intelligence: From Theory to Applications

In: Springer

 

Witt, N., Deutel, M., Schubert, J., Sobel, C., & Woller, P. (2024)

Energy-Efficient AI on the Edge

In: Unlocking Artificial Intelligence: From Theory to Applications (pp. 359-380)

 

Deutel, M., Hannig, F., Mutschler, C., & Teich, J (2024):

Fused-Layer CNNs for Memory-Efficient Inference on Microcontrollers

In: Workshop on Machine Learning and Compression, NeurIPS 2024

 

Deutel, M., Hannig, F., Mutschler, C., & Teich, J. (2024):

On-Device Training of Fully Quantized Deep Neural Networks on Cortex-M Microcontrollers

In: IEEE Transactions on Computer-Aided Design of Integrated Circuits and Systems 2024

 

Deutel, M., Mutschler, C., & Teich, J. (2024):

microYOLO: Towards Single-Shot Object Detection on Microcontrollers

In: arXiv preprint arXiv:2408.15865.

 

Herzog, B., Schubert, J., Rheinfels, T., Nickel, C., & Hönig, T. (2024):

GreenPipe: Energy-Efficient Data-Processing Pipelines for Resource-Constrained Systems.

In: Proceedings of the 21st International Conference on Embedded Wireless Systems and Networks (EWSN'24), ACM

2021

Blauberger, P., Marzilger, R., & Lames, M. (2021):

Validation of player and ball tracking with a local positioning system

In: Sensors, 21(4), 1465

 

Potortì, F., Torres-Sospedra, J., Quezada-Gaibor, D., Jiménez, A. R., Seco, F., Pérez-Navarro, A., ... & Oh, H. L. (2021):

Off-line evaluation of indoor positioning systems in different scenarios: The experiences from IPIN 2020 competition

In: IEEE Sensors Journal, 22(6), 5011-5054

 

Löffler, C., Nickel, C., Sobel, C., Dzibela, D., Braat, J., Gruhler, B., ... & Mutschler, C. (2021):

Automated quality assurance for hand-held tools via embedded classification and AutoML

In: Machine Learning and Knowledge Discovery in Databases. Applied Data Science and Demo Track: European Conference, ECML PKDD 2020, Ghent, Belgium, September 14–18, 2020, Proceedings, Part V (pp. 532-535)

2020

Feigl, T., Kram, S., Woller, P., Siddiqui, R. H., Philippsen, M., & Mutschler, C. (2020):

RNN-aided human velocity estimation from a single IMU

In: Sensors, 20(13), 3656

 

Feigl, T., Gruner, L., Mutschler, C., & Roth, D. (2020):

Real-time gait reconstruction for virtual reality using a single sensor

In: 2020 IEEE International Symposium on Mixed and Augmented Reality Adjunct (ISMAR-Adjunct) (pp. 84-89)

 

Redžepagić, A., Löffler, C., Feigl, T., & Mutschler, C. (2020):

A sense of quality for augmented reality assisted process guidance

In: 2020 IEEE International Symposium on Mixed and Augmented Reality Adjunct (ISMAR-Adjunct) (pp. 129-134)

2019

Niitsoo, A., Edelhäußer, T., Eberlein, E., Hadaschik, N., & Mutschler, C. (2019):

A deep learning approach to position estimation from channel impulse responses

In: Sensors, 19(5), 1064

 

Feigl, T., Kram, S., Woller, P., Siddiqui, R. H., Philippsen, M., & Mutschler, C. (2019):

A bidirectional LSTM for estimating dynamic human velocities from a single IMU

In: Computer Vision Foundation (CVF) (Eds.), Joint Workshop on Long-Term Visual Localization, Visual Odometry and Geometric and Learning-based SLAM (pp. 42-43)

2018

Feigl, T., Mutschler, C., & Philippsen, M. (2018):

Supervised learning for yaw orientation estimation

In: 2018 international conference on indoor positioning and indoor navigation (IPIN) (pp. 206-212)

 

Feigl, T., Mutschler, C., & Philippsen, M. (2018):

Human compensation strategies for orientation drifts

In: 2018 IEEE Conference on Virtual Reality and 3D User Interfaces (VR) (pp. 409-414)

 

Feigl, T., Mutschler, C., & Philippsen, M. (2018):

Head-to-body-pose classification in no-pose VR tracking systems

In: 2018 IEEE Conference on Virtual Reality and 3D User Interfaces (VR) (pp. 1-2)