Efficient AI

Energieeffiziente KI für die Zukunft - On-Device Inferenz und Training

Sei es für die Automatisierung von Prozessen, sei es für die Analyse großer Datenmengen: Intelligente und selbstlernende Systeme werden in Unternehmensprozessen zunehmend wichtiger. Bisher müssen diese intelligenten Systeme stets in Verbindung mit einer Cloud stehen, da diese die benötigte Rechenleistung für KI-Modelle bereitstellt. Mit Edge AI, kurz für Edge Artificial Intelligence, kommt nun die nächste Generation von intelligenten Systemen ins Haus: Die Intelligenz wird dabei direkt in die Endgeräte verlagert.

 

Edge AI Models

Entdecken Sie innovative Edge-AI-Modelle aus Forschung, Lehre und Praxis, die im Rahmen studentischer Arbeiten sowie wissenschaftlicher Projekte entstanden sind. Die Website bietet spannende Einblicke in moderne KI-Anwendungen, die direkt auf Edge-Geräten eingesetzt werden.

 

Edge AI Plattform

    Entwickeln Sie KI-Modelle für Embedded-Systeme – ganz ohne tiefgehendes KI-Vorwissen. Unsere Edge AI Platform bietet alles, was Sie für die schnelle und effiziente Umsetzung Ihrer Anwendung benötigen: von der Datenerfassung über das Training bis zur Ausführung auf Edge-Geräten

 

Edge AI Store

Der Edge AI Store bietet Unternehmen Zugriff auf optimierte KI-Modelle, speziell für kleinste Hardware. Sie profitieren durch unsere eigene Inference Engine und schneller Übertragbarkeit auf weitere Anwendungen.

Vorteile von Edge AI

Energieeffizienz und Ressourcenschonung

Edge AI benötigt für ML-Anwendungen bis zu tausendmal weniger Strom als eine Standard-GPU, da Modelle lokal ausgeführt werden, anstatt Daten hin- und herzusenden. Dadurch können Geräte mit Edge AI je nach Anwendung jahrelang ohne Batterien betrieben werden. Zudem reduziert sich durch die Energieeinsparung die Größe der benötigten Batterien und der Verbrauch wertvoller Ressourcen.

Echtzeit

 

Da das Modell lokal ausgeführt wird, müssen die Rohdaten, um die Inferenz durchzuführen, nicht erst an die Cloud gesendet und im verarbeiteten Zustand wieder zurückgesendet werden. Dadurch verringert sich die Latenzzeit der Ausgabe sowie der Bedarf an Kommunikationsbandbreite, was wiederum eine schnelle Reaktion ermöglicht.

Unabhängigkeit, Datenschutz und Sicherheit

Der Anwender ist unabhängig von Cloud-Service-Anbietern, wodurch Daten nicht extern geteilt werden müssen und die Privatsphäre geschützt bleibt. Außerdem besteht keine Abhängigkeit von einer Kommunikationsverbindung, wodurch Nachrüsten von KI einfach wird.

Unser Leistungsangebot

Forschung/Entwicklung

Wir bieten Ihnen Teil- oder komplette F&E-Dienstleistungen.

 

  • Embedded AI: Entwicklungstool zur Entwicklung von embedded KI-Lösungen zur Kosteneinsparung und Qualitätssteigerung Ihrer Anwendung.
  • Optimiertes KI-Modell für Ihre Hardware: eine maßgeschneiderte Lösung angepasst an Ihre Hardware mit optimierter Leistung durch KI.
  • Mentoring: Wir begleiten Sie bei Ihren F&E-Projekten von der Datenaufnahme bis hin zur Entwicklung eines KI-Modells.

 

Beratung

Wir beraten und unterstützen Sie bei Ihrem individuellen Anliegen rund um Ihre KI-Lösungen.

 

  • Potenzialanalysen: Wir führen eine schnelle Potenzialanalyse zu Ihrem persönlichen Anliegen durch.
  • Richtungsentscheidungen: Wir geben Ihnen wegweisende Unterstützung durch die Erstellung eines automatisierten Reports, der Sie bei ersten Richtungsentscheidungen zu Ihrem persönlichen Projekt unterstützt. 
  • Hardwareempfehlungen: Wir beraten Sie bezüglich der geeigneten Hardware und geben Ihnen Empfehlungen für den Einsatz bei Ihrer KI-Lösung.
  • Persönliche Begleitung: Unser interdisziplinäres Team und das Netzwerk am IIS begleitet Sie bei Ihrem persönlichen Projekt.

Lizenzierung

Eventuell haben wir bereits das richtige KI-Modell entwickelt und dies kann direkt bei Ihrem Anwendungsfall integriert oder von Ihnen lizenziert werden.

 

Wir optimieren Ihre Anwendung durch standardisierte Abläufe und weitestgehende Automatisierung zeitintensiver Arbeiten speziell an Ihren Anwendungsfall angepasst.

Durch Training und automatische Reduktion komplexer KI-Modelle mittels Entfernen von Redundanzen generieren wir optimale KI-Modelle hinsichtlich Genauigkeit und Effizienz.

Wir unterstützen Sie bei einer schnellen Integration!

Kontaktieren Sie uns!

Wir realisieren die effiziente Bearbeitung Ihrer F&E-Projekte, sowie die Ausbildung von Nachwuchskräften mit diesem neuen Kompetenzprofil.

Kontaktieren Sie uns für eine individuelle Beratung unter:

machine-learning-lv@iis.fraunhofer.de

Werde ein zertifizierter Edge AI Spezialist

 

Edge AI ermöglicht Machine Learning auf Mikrocontrollern und öffnet Türen zu vielfältigen Anwendungsgebieten. Die Schulung richtet sich an Fachkräfte mit Datenanalyse-Erfahrung und an Hardware-Entwickler, die ihr Wissen in Machine Learning vertiefen möchten.

Sie lernen, ML-Anwendungen auf Mikrocontrollern zu entwickeln, Herausforderungen frühzeitig zu erkennen und entsprechende Strategien zu entwickeln. Nutzen Sie unser umfassendes Know-how für Ihren Erfolg.

Gewinnen Sie Insights durch unser ML Seminar

 

Mit dem Machine Learning (ML) Webinar verstehen Sie die Grundlagen des maschinellen Lernens und lernen unüberwachte sowie überwachte Lernverfahren, Regression und Klassifikation kennen. Die Algorithmen werden mit Hands-On Beispielen eingeführt.


Sie erlernen die sinnvolle Erhebung und Strukturierung von Daten und können so erprobte Verfahren für schnelle Ergebnisse und Entscheidungen nutzen. Dies hilft Ihnen, im Anschluss Fehler in der Verarbeitungskette zu erkennen und zu beheben.

Anwendungen

 

Vision

Von Agrarwirtschaft über Biodiversität bis hin zur Personenzählung. KI-Analysen direkt hinter dem Kamerasensor ermöglicht zahlreiche neue Anwendungen, ohne viele Rohdaten in die Cloud zu senden. Die Privatsphäre bleibt stets geschützt.

 

Condition Monitoring

Durch Maschinelles Lernen in eingebetteten Systemen Zustände von Anlagen und Maschinen überwachen, um frühzeitig reagieren zu können oder die Effizienz zu steigern.

Retail

Wer kennt das nicht: Schon wieder lange Schlangen an der der Kasse.
Mit Privatsphäre schützender KI auf Edge Geräten ist Seamless Shopping jetzt schon möglich.

So bleibt mehr Zeit für die schönen Dinge.

 

Speech & Audio

Maschinelles Lernen in eingebetteten Sensormodulen für kognitive Sprach- und Audioanalyse. Die Audiokommandos werden ohne Cloud-Verbindung erkannt.

 

Tools

Machinelles Lernen in eingebetteten Sensormodulen für kognitive Handwerkzeuge, um Montageprozesse zu erkennen und die Qualität sicherzustellen.

 

Optical Tracking

Die für Menschen naheliegendste Methode des Trackings geht über die Optik, denn den größten Anteil an Umgebungsinformationen erhält er durch die Augen. Das lässt sich auch auf modernste Technologien übertragen...

 

Anomaliedetektion

Mit KI-basierter Anomaliedetektion lassen sich Bauteile automatisiert prüfen, Abweichungen frühzeitig erkennen und industrielle Qualitätskontrollen effizienter, flexibler und zukunftssicher gestalten.

Abbrechen
  • Q-GeneSys

    Quantengenerative Modelle für industrielle Simulationssysteme

    Im Projekt „Q-GeneSys“ werden quantengenerative Modelle entwickelt, die mithilfe von IQP-Quantenschaltkreisen industrielle Anwendungen wie Molekül-, 3D- und Produktdesign unterstützen. Ziel ist es, durch die Kombination von Quantencomputing, KI und frühzeitiger Fehlertoleranz skalierbare und robuste Lösungen für komplexe Generations- und Simulationsaufgaben bereitzustellen.

    mehr Info
  • © Fraunhofer IIS / Paul Pulkert

    Das Fraunhofer IIS ist Projektpartner beim EDIH DIBI, einem der bislang drei Innovationszentren Bayerns. Die „European Digital Innovation Hubs" (EDIHs) gehören zum „The Digital Europe Programme“ der Europäischen Union. Mit einem flächendeckenden Netz an Innovationszentren in der EU soll die digitale Transformation von Verwaltung und Wirtschaft unterstützt werden.

    mehr Info
  • Schneller und moderner Produktionsprozess.
    © 安琦 王 - stock.adobe.com

    moderne Produktion

    Im Projekt „ProCheck“ entwickelt das Fraunhofer IIS gemeinsam mit Partnern Methoden des Process Minings, um Materialfluss- und Produktionsprozesse in kleinen und mittleren Unternehmen automatisch zu analysieren und zu optimieren. Ziel ist es, auf Basis von Cyber-physischen Systemen transparente Prozessdaten zu gewinnen und dadurch Effizienz, Qualität und Flexibilität in der Produktion zu steigern.

    mehr Info
  • Die Fraunhofer-IIS-Technologie ermöglicht eine extrem schnelle, KI-basierte Suche und Bewertung ähnlicher Spielszenen in großen Sport-Trackingdatenbanken. Dadurch können relevante Spielsituationen in unter einer Sekunde gefunden und automatisch analysiert werden, um Spieltaktiken und Entscheidungen datenbasiert zu optimieren.

    mehr Info
  • Die Entwicklung von Quantencomputern schreitet rasant voran, die Nutzung in industriellen Anwendungen hingegen steht noch am Anfang. Dabei haben Quantencomputer das Potenzial, in vielen Industrien Anwendungen grundlegend zu verbessern. Die aktuell voranschreitende Steigerung der Kapazität von Quantencomputern eröffnet die Möglichkeit, Quantencomputer in KI‐Systemen einzusetzen. Die optimale Steuerung dynamischer Systeme wird in der KI meist mit Reinforcement Learning Methoden gelöst. Erste Realisierungen dieser Methoden mit Quantencomputern gibt es schon heute.

    mehr Info
  • Computational Chemistry - Area of Chemistry that Uses Computer Simulations to Assist in Solving Complex Chemical and Biochemical Problems - Conceptual Illustration

    Im Projekt „KID-QC²“ entwickeln das Fraunhofer IIS und die Universität Augsburg KI-gestützte Methoden zur automatisierten Optimierung von Quantenschaltungen für Anwendungen in der Quantenchemie. Ziel ist es, sogenannte Molecular Quantum Circuits effizienter, skalierbarer und an verschiedene Quantenhardware-Plattformen anpassbar zu machen.

    mehr Info
  • LINK Halle
    © Fraunhofer IIS

    LINK Halle

    Mit optischen Trackingverfahren erfassen wir Positionen und Bewegungen präzise in Echtzeit. Durch moderne Bildverarbeitung und KI entwickeln wir robuste Lösungen für Industrie, Robotik, Sport und weitere anspruchsvolle Anwendungen.

    mehr Info
  • © istockphoto.com/Andy

    AI_Federated Learning

    DARCII erforscht den Einsatz von Künstlicher Intelligenz und Federated Learning zur Analyse von GNSS-Interferenzen über verteilte und mobile Sensorknoten. Dabei werden unterschiedliche Störmuster erkannt und als individuelle Fingerprints charakterisiert. Ziel ist es, Störquellen zuverlässiger zu identifizieren und die Robustheit satellitenbasierter Navigation zu verbessern.

    mehr Info
  • GNSS Störeridentifikation
    © adobestock/ehrenberg-bilder

    Lkw Maut / Transport

    Satellitennavigation ist ein wichtiger Bestandteil unserer kritischen Infrastruktur. Das Projekt DARCY entwickelt ein intelligentes Sensornetzwerk, das Störungen von GNSS-Signalen erkennt, bewertet und lokalisiert. Mithilfe von Machine Learning und Crowdsourcing werden Messdaten zusammengeführt, um Störquellen zuverlässig aufzuspüren und die Robustheit satellitenbasierter Navigation zu erhöhen.

    mehr Info
  • © Adobe Stock / ipopba - stock.adobe.com

    Digital marketing, Data analysis for performance and create insight report, Goal of digital marketing strategy and service through digital channel of search engine and data science on social network

    Im Forschungsprojekt ROLF untersuchen das Fraunhofer IIS und die DATEV das Potential von künstlicher Intelligenz (KI) in betriebswirtschaftlichen Prozessen.

    mehr Info

Publikationen

2026

Schubert, J., Kasper, M., Linke, M., Herzog, B., Deutel, M., Plinge, A., Seuss, D., Mutschler, C. (2026):

Design-Time Optimization of Deep Neural Networks for Intermittent Learning on Microcontrollers

in: arXiv: 2608.03589

 

Wittenberg, T., Kraus, M., Fiedelak, S., Keck, S., Kiderle, T., Hallmen, T., plinge, A., Niessen, C., Lang-Richter, N., André, E., Manzeschke, A. (2026):

Where can speaking robots be found in healthcare- and what are challanges for their implementation? 

 

Heublein, L., Deutel, M., Plinge, A., Ott, F. (2026): 

Efficient Network Inference via Hardware-Aware Architecture Search, Model Prunning & Quantization

in: arXiv: 2606.23210

 

Deutel, M., Marchl, A., Plinge, A., Hannimg, F., Teich, J. (2026):

EmbeddedAD: Efficient Anomaly Detection on SoCs via Vector-Quantized Reverse Distillation

In: IEEE International System-on-Chip Conference (SOCC) 

 

Deutel, M., Geis, S., Plinge A. (2026):

PrototypeNAS: Rapid Design of Deep Neural Networks for Microcontroller Units

In:  arXiv:2603.15106

2025

Jain, P., Kasper, M., Köber, G., Amft, O., Plinge, A., & Seuss, D. (2025):

Pareto optimal benchmarking of AI models on ARM Cortex processors for sustainable embedded systems.

In: European Conference on EDGE AI Technologies and Applications (EEAI 2025)

 

Brolich, N., Geis, S., Kasper, M., Barnhill, A., Plinge, A., & Seuss, D. (2025).:

Investigating target class influence on neural network compressibility for energy-autonomous avian monitoring. 

In: European Conference on EDGE AI Technologies and Applications (EEAI 2025).

 

Marchl, A., Kasper, M. Geis, S., Deutel, M., Plinge A., & Seuß, D. (2025):

Anomaly Detection on the Edge for Quality Inspection. 

In: AI in Production Workshop at KI2025

 

Deutel, M., Plinge, A., Seuß, D., Mutschler, C., Hannig, F., & Teich, J. (2025):

Unsupervised learning of variational autoencoders on Cortex-M microcontrollers.

In: IEEE International Symposium on Embedded Multicore/Many-core Systems-on-Chip (MCSoC 2025), Singapore

 

Brans, P. & Witt, N. (2025):

Fraunhofer IIS Walks the Line for Edge AI

In: EE Times Europe Magazine

 

Deutel, M., Kontes, G., Mutschler, C., & Teich, J. (2025):

Multi-Objective Bayesian Optimization with Reinforcement Learning for Edge Deployment of DNNs on Microcontrollers

In: Genetic and Evolutionary Computation Conference (GECCO)

2024

Mutschler, C., Münzenmayer, C., Uhlmann, N., & Martin, A (2024): 

Unlocking Artificial Intelligence: From Theory to Applications

In: Springer

 

Witt, N., Deutel, M., Schubert, J., Sobel, C., & Woller, P. (2024)

Energy-Efficient AI on the Edge

In: Unlocking Artificial Intelligence: From Theory to Applications (pp. 359-380)

 

Deutel, M., Hannig, F., Mutschler, C., & Teich, J (2024):

Fused-Layer CNNs for Memory-Efficient Inference on Microcontrollers

In: Workshop on Machine Learning and Compression, NeurIPS 2024

 

Deutel, M., Hannig, F., Mutschler, C., & Teich, J. (2024):

On-Device Training of Fully Quantized Deep Neural Networks on Cortex-M Microcontrollers

In: IEEE Transactions on Computer-Aided Design of Integrated Circuits and Systems 2024

 

Deutel, M., Mutschler, C., & Teich, J. (2024):

microYOLO: Towards Single-Shot Object Detection on Microcontrollers

In: arXiv preprint arXiv:2408.15865.

 

Herzog, B., Schubert, J., Rheinfels, T., Nickel, C., & Hönig, T. (2024):

GreenPipe: Energy-Efficient Data-Processing Pipelines for Resource-Constrained Systems.

In: Proceedings of the 21st International Conference on Embedded Wireless Systems and Networks (EWSN'24), ACM

2021

Blauberger, P., Marzilger, R., & Lames, M. (2021):

Validation of player and ball tracking with a local positioning system

In: Sensors, 21(4), 1465

 

Potortì, F., Torres-Sospedra, J., Quezada-Gaibor, D., Jiménez, A. R., Seco, F., Pérez-Navarro, A., ... & Oh, H. L. (2021):

Off-line evaluation of indoor positioning systems in different scenarios: The experiences from IPIN 2020 competition

In: IEEE Sensors Journal, 22(6), 5011-5054

 

Löffler, C., Nickel, C., Sobel, C., Dzibela, D., Braat, J., Gruhler, B., ... & Mutschler, C. (2021):

Automated quality assurance for hand-held tools via embedded classification and AutoML

In: Machine Learning and Knowledge Discovery in Databases. Applied Data Science and Demo Track: European Conference, ECML PKDD 2020, Ghent, Belgium, September 14–18, 2020, Proceedings, Part V (pp. 532-535)

2020

Feigl, T., Kram, S., Woller, P., Siddiqui, R. H., Philippsen, M., & Mutschler, C. (2020):

RNN-aided human velocity estimation from a single IMU

In: Sensors, 20(13), 3656

 

Feigl, T., Gruner, L., Mutschler, C., & Roth, D. (2020):

Real-time gait reconstruction for virtual reality using a single sensor

In: 2020 IEEE International Symposium on Mixed and Augmented Reality Adjunct (ISMAR-Adjunct) (pp. 84-89)

 

Redžepagić, A., Löffler, C., Feigl, T., & Mutschler, C. (2020):

A sense of quality for augmented reality assisted process guidance

In: 2020 IEEE International Symposium on Mixed and Augmented Reality Adjunct (ISMAR-Adjunct) (pp. 129-134)

2019

Niitsoo, A., Edelhäußer, T., Eberlein, E., Hadaschik, N., & Mutschler, C. (2019):

A deep learning approach to position estimation from channel impulse responses

In: Sensors, 19(5), 1064

 

Feigl, T., Kram, S., Woller, P., Siddiqui, R. H., Philippsen, M., & Mutschler, C. (2019):

A bidirectional LSTM for estimating dynamic human velocities from a single IMU

In: Computer Vision Foundation (CVF) (Eds.), Joint Workshop on Long-Term Visual Localization, Visual Odometry and Geometric and Learning-based SLAM (pp. 42-43)

2018

Feigl, T., Mutschler, C., & Philippsen, M. (2018):

Supervised learning for yaw orientation estimation

In: 2018 international conference on indoor positioning and indoor navigation (IPIN) (pp. 206-212)

 

Feigl, T., Mutschler, C., & Philippsen, M. (2018):

Human compensation strategies for orientation drifts

In: 2018 IEEE Conference on Virtual Reality and 3D User Interfaces (VR) (pp. 409-414)

 

Feigl, T., Mutschler, C., & Philippsen, M. (2018):

Head-to-body-pose classification in no-pose VR tracking systems

In: 2018 IEEE Conference on Virtual Reality and 3D User Interfaces (VR) (pp. 1-2)