Mit Embedded AI ganz vorn dran

Geräte und Systeme, die Daten lokal erfassen und verarbeiten, sind der Schlüssel zu mehr Effizienz, Präzision und Sicherheit in KI-basierten Anwendungen. Eine eingebettete Künstliche Intelligenz (Embedded AI) kann Datenströme kontinuierlich analysieren, Prognosen und Diagnosen ableiten, Entscheidungen treffen und entsprechende Aktionen auslösen. Auf diese Weise überwacht, regelt und steuert sie automatisiert kleinste Details oder komplexe Prozesse.

Die Zutaten für ein gelungenes Embedded-AI-Produkt: ein schlankes KI-Modell und effiziente Hardware – beides ideal auf die zu lösende Aufgabe zugeschnitten. Doch was das Ganze erst perfekt macht, ist die Systemintegration, die auf ein bestmögliches Zusammenspiel von Algorithmen und Hardware abzielt und stets die Gesamtsystemanforderungen des Endprodukts vor Augen behält.

KI ohne Cloud: Die Intelligenz rückt näher ans Geschehen

Embedded AI verarbeitet Daten direkt dort, wo sie entstehen – in den Endgeräten an der Edge. Sie arbeitet also vollständig lokal und kommt ohne Funkübertragung der Sensordaten in die Cloud aus. Der Datenverkehr zu Cloudservern fällt weg und das Ergebnis überzeugt:

Beste Energieeffizienz

Der Energieaufwand für die Datenübertragung und den Betrieb von Servern entfällt. Spezialisierte KI-Hardware-Architekturen für die Edge und energieoptimierte neuronale Netze reduzieren den Stromverbrauch der KI zudem auf ein Minimum. Auch Anwendungen im Microwatt-Bereich sind möglich.

Weniger Latenz

Verzögerungen in der Datenübertragung durch fehlende Netzabdeckung oder schwache Datenraten lösen sich durch Embedded AI komplett auf. Gleichzeitig erhöht die lokale Ausführung der KI die Reaktionsgeschwindigkeit von Systemen extrem – perfekt für zeitkritische Anwendungen.

Mehr Sicherheit

Die Vor-Ort-Verarbeitung schützt vor Datenlecks und -abflüssen, denn Sensordaten sowie Audio- und Videomaterial wandern nicht in die Cloud. Nutzer und Anlagenbetreiber behalten so die Hoheit über ihre Daten, während die Gefahr der Manipulation von Daten und Geräten drastisch sinkt.

Algorithmen und Hardware optimal kombinieren

Bei der Implementierung von Embedded-AI-Lösungen richten wir unseren Fokus auf die optimale Abstimmung zwischen KI-Modell und verwendeter Hardware. Mit diesen Technologien machen wir lokale KI effizienter und leistungsfähiger:

NAS

Mit unserem Toolset für Neural Architecture Search (NAS) automatisieren wir die Suche nach der optimalen Architektur neuronaler Netze und beschleunigen damit die Entwicklung Ihrer Embedded-AI-Produkte.

In einem definierten Suchraum werden systematisch verschiedene Netzarchitekturen generiert und hinsichtlich Genauigkeit, Rechenaufwand und Modellgröße verglichen, bis die optimale Konfiguration gefunden ist.

Unser Suchprozess ist »hardware-aware« und im Ergebnis erhalten Sie ein optimiertes neuronales Netz, das ideal auf die Hardware zugeschnitten ist. 

Hardware-aware Training

Mit unserem Ansatz für hardware-aware Training optimieren wir neuronale Netze noch weiter für den Einsatz auf einer spezifischen Hardware-Plattform.

Dazu simulieren wir typische Hardware-Effekte wie Quantisierung, Rauschen, Verzerrungen und andere Effekte analoger Hardware oder gezielt injizierte Fehler schon während des Trainings.

Im Ergebnis entstehen robuste Modelle, die ihre Genauigkeit auch unter realen Betriebsbedingungen bewahren.

Distributed AI

Wenn mehr Rechenpower gefragt ist, verteilen wir Künstliche Intelligenz auf viele Geräte. Mit Distributed AI zerlegen wir ein neuronales Netz in mehrere Teilmodelle, die auf verschiedenen IoT- oder Edge-Geräten parallel ausgeführt werden.

So bündeln wir Rechenleistung und ermöglichen komplexe Inferenz – direkt am Rand des Netzwerks und ohne Genauigkeitsverlust.

Selbstorganisierte Ad-hoc-Netzwerke und orchestrierte Pipeline-Architekturen sorgen dabei für zuverlässigen Datenaustausch zwischen den Geräten, reduzieren Latenzen und steigern sowohl den Durchsatz als auch die Ausfallsicherheit.

Ihr Weg zur idealen Software-Hardware-Symbiose für Embedded AI

Einstieg, Konzeption, Realisierung
© Fraunhofer IIS
Workshop zur Bedarfsanalyse
Spezifikation und Design
Implementierung, Deployment, Test und Benchmarking
  • Sicherheit gewinnen über Einsatzmöglichkeiten und Machbarkeit
  • Nutzen und Verbesserungspotenziale ermitteln
  • Gemeinsames Verständnis vom Endprodukt als Basis für Technologieauswahl
  • Messbare Ziele definieren (KPIs)
  • Auslegungen der Embedded-AI-Lösung
  • Roadmap für die Umsetzung
  • KI-Modell- und Prototypentwicklung
  • Probeinstallation im Labor und in der Einsatzumgebung
  • Ziel-KPIs validieren

KI im Gerät, Mehrwert im Feld

Sichere Effizienz für Netze, Werke, Fahrzeuge und mehr

Kommunikations-
systeme

Durch Embedded-AI-optimierte Sender-Empfängersysteme verarbeiten Datenpakete und analysieren die Signalqualität. Bei Bedarf passen sie die Übertragung an und verbessern somit Latenz, Auslastung und Anfälligkeit gegenüber Störsignalen.

Industrie-
automatisierung

Sensorbasierte Embedded-AI-Geräte analysieren Maschinendaten unmittelbar vor Ort, erkennen Verschleiß, drohende Ausfälle oder Qualitätsverluste frühzeitig und reduzieren Stillstandzeiten.

Robotik

Mit Embedded AI verarbeiten autonome mobile Roboter Bild- und Sensordaten lokal, um Hindernisse zu identifizieren und Bewegungsabläufe in Echtzeit anzupassen – für ein kollisionsfreies und effizientes Arbeiten ohne Cloud-Abhängigkeit.

Automotive

Im Fahrzeug verarbeiten Edge-AI-Module Kamerabilder, Radar- und Lidar-Signale. Sie erkennen Fußgänger, Verkehrsschilder und Gefahrensituationen und unterstützen Assistenzsysteme mit minimaler Latenz.

Digital Health

Wearables und medizinische Devices nutzen Edge-AI für die On-Device-Analyse von Vitalparametern. Sie detektieren Unregelmäßigkeiten im Herzrhythmus oder in der Atmung und erlauben eine datenschutzkonforme, proaktive Gesundheitsüberwachung.

Referenzprojekte

  • 6G LINO – 6G Laboratory In Orbit

    Ein 6G-Labor im Weltraum: Im Projekt 6G LINO entwickelt das Fraunhofer IIS gemeinsam mit Partnern der europäischen Satelliten- und Mobilfunkindustrie eine Testinfrastruktur zur Erprobung von 6G-Mobilfunk über einen LEO-Satelliten. Das von der Europäischen Weltraumorganisation ESA geförderte Projekt umfasst den Aufbau einer kompletten Übertragungskette von der Bodenstation über einen Satelliten im CubeSat-Format bis zum Empfänger am Boden.

    Im Projekt werden verschiedene Features implementiert und demonstriert, darunter eine Mobilfunkbasisstation (gNB) auf dem Satelliten, Handover zwischen terrestrischem und nicht-terrestrischem Netz, Möglichkeiten zum Testen zukünftiger 6G-Wellenformanpassungen und Spectrum Sensing mit KI. Dazu wird auf dem Satelliten eine KI-basierte Lösung integriert, mit der die Auslastung von Frequenzen im Orbit untersucht werden kann, zum Beispiel um die Nutzung des Spektrums zu optimieren (Dynamic Satellite-Terrestrial Spectrum Management und Sharing im S-band). Das Fraunhofer IIS arbeitet daran, die geplanten Funktionen umzusetzen und alles für ihren Einsatz auf dem Satelliten vorzubereiten.

  • GAIA-Initiative – Guardian of the Wild using Artificial Intelligence Applications

    Im Rahmen der GAIA-Initiative hat das Fraunhofer IIS gemeinsam Partner ein Hightech-Frühwarnsystem entwickelt, das ökologische Veränderungen und kritische Ereignisse in der Umwelt mithilfe von Tiersendern erfasst. Die Initiative umfasst die beiden Teilprojekte GAIA-Sat-IoT und SyNaKI. Sie wurden vom Bundesministerium für Wirtschaft und Klimaschutz aufgrund eines Beschlusses des Deutschen Bundestages gefördert.

    Im Projekt GAIA-Sat-IoT wurden intelligente Kamera-Tags mit integrierter KI und satellitengestützter IoT-Kommunikation entwickelt, die zur Erfassung ökologischer Daten und zur Früherkennung von Wildtierkrankheiten dienen.

    Im Projekt SyNaKI wurde Distriubted AI eingesetzt, um durch verteilte künstliche Intelligenz eine virtuelle Schwarmintelligenz zu schaffen, die auf der Interaktion von Tieren und Mikroprozessoren in digitalen Netzwerken basiert. 

  • KI-FLEX – Rekonfigurierbare Hardwareplattform zur KI-basierten Sensordatenverarbeitung für das autonome Fahren

    Im vom Bundesministerium für Bildung und Forschung geförderten Projekt KI-FLEX entwickelten acht Projektpartner eine leistungsstarke, energieeffiziente Hardware-Plattform und das dazugehörige Software-Framework für autonomes Fahren. Die KI-FLEX-Plattform soll Daten von Laser-, Kamera- und Radarsensoren im Auto zuverlässig und schnell verarbeiten und zusammenführen. Dabei kommen Methoden der Künstlichen Intelligenz (KI) zum Einsatz. Das Fahrzeug verfügt so jederzeit über ein präzises Abbild der realen Verkehrsbedingungen, kann sich selbst in diesem Umfeld verorten und auf Basis dieser Informationen in jeder Fahrsituation die richtige Entscheidung treffen.

    Der Beitrag des Fraunhofer IIS bestand in der Entwicklung eines flexiblen DLI-Beschleuniger-Kerns für den Multi-Core-Deep-Learning-Beschleuniger, welcher gemeinsam mit weiteren DLI-Beschleunigern in einen flexiblen, zukunftsfähigen ASIC integriert werden soll. Die Architektur des ASICs ist dabei so ausgelegt, dass zukünftige Verbesserungen der Architekturen von neuonalen Netzen (NN), das heißt neu aufkommende NN-Typen und -Konzepte, damit weiterhin realisiert werden können. Dafür wurden kritische Stellen gezielt rekonfigurierbar designt, um eine Brücke von der Starrheit eines ASICs hin zur Flexibilität eines FPGAs zu bauen.

  • LODRIC – Low-Power Digital Deep Learning Inference Chip

    Das vom Bundesministerium für Bildung und Foschung geförderte Projekt LODRIC verlängerte die erfolgreiche Zusammenarbeit des Konsortiums, bestehend aus der Friedrich-Alexander-Universität Erlangen-Nürnberg (FAU) und dem Fraunhofer IIS, aus dem vorangegangenen Projekt Lo3-ML.

    In seiner Fortsetzung geht es um die Entwicklung einer Entwurfsmethodik für energiesparsame digitale KI-Chips mit eingebetteten nichtflüchtigen Speicherelementen und deren prototypische Anwendung anhand drei verschiedener Applikationen. Dabei soll die Hauptinnovation des Projektes »Lo3-ML«, namentlich die Entwicklung datenflussorientierter Rechnerarchitekturen in Verbindung mit verteiltem, nicht-volatilem Gewichtsspeicher und stark (ternär) quantisierten Gewichten aufgegriffen und gezielt methodisch weiterentwickelt werden.

    Das Fraunhofer IIS ist mit den drei Disziplinen Medizintechnik, Entwurf von digitalen Schaltungen und Embedded AI vertreten. Letztere wird dabei ihre Kompetenzen im Bereich hardware-aware Training ausbauen. Dabei wird eine für die Beschleunigertechnologie spezifische Tool Chain weiterentwickelt, durch die zum einen eine signifikante Verkleinerung (Optimierung) des neuronalen Netzes erreicht wird und zum anderen dessen Genauigkeit trotz hoher Quantisierung der Neuronengewichte durch iteratives Nachtrainieren erhalten bleibt.

  • MANOLO – Vertrauenswürdige und effiziente KI für Cloud-Edge-Computing

    Im Projekt MANOLO wird ein komplettes Paket vertrauenswürdiger Algorithmen und Tools einwickelt, das die Effizienz und Performance von KI-Systemen verbessert. Im Fokus stehen das energieeffiziente Training der KI-Modelle mit qualitätsgeprüften Daten sowie das Ausführen ressourcenschonender KI-Modelle auf einem breiten Spektrum von Geräten für den Einsatz an der Edge bis zur Cloud. MANOLO wird durch das Rahmenprogramm Horizont Europa der Europäischen Union gefördert.

    Das Fraunhofer IIS konzentriert sich im Projekt darauf, KI-Anwendungen an die Edge zu bringen. Dafür werden Algorithmen und Tools entwickelt, die automatisiert nach geeigneten Neuronalen Netzen suchen und diese optimieren (Neural Architecture Search, NAS).

Das könnte Sie auch interessieren

 

Spiking Neural Networks

Die neuronalen Netze der nächsten Generation

 

Neuromorphes Computing

Energiesparsames intelligentes Chipdesign

 

Künstliche Intelligenz

Hier geht es zurück zum Geschäftsfeld »Künstliche Intelligenz«