Neuromorphes Computing

Energiesparsames intelligentes Chipdesign

KI-Lösungen inspiriert von biologischen Gehirnen

Obwohl das Mooresche Gesetz weiterhin gilt, schwinden die wirtschaftlichen Anreize für eine rapide Skalierung von Halbleiterbauelementen aufgrund der steigenden Kosten für die Chipentwicklung und -fertigung. Gleichzeitig erfordern die steigende Nachfrage nach energieeffizienten Technologien für ressourcenintensive KI-Aufgaben und das wachsende globale Datenvolumen nachhaltige Lösungen. Neuromorphes Computing, d. h. alle Hardware- und Softwaresysteme, die die Funktionsweise des biologischen Gehirns nachahmen, bietet eine vielversprechende Antwort: 

Neuromorphes Computing ist eine Schlüsseltechnologie zur erheblichen Verbesserung der Energieeffizienz, wodurch ressourcenintensive KI-Aufgaben direkt auf batteriebetriebenen Endgeräten ausgeführt werden können. Die Kombination aus geringer Latenz und hoher Energieeffizienz ermöglicht Echtzeit-Edge-AI-Anwendungen, die schnelle, lokale Datenverarbeitung erfordern. Im Gegensatz zu Cloud-basierten Ansätzen bietet Edge-AI zudem verbesserten Datenschutz und berücksichtigt wachsende Bedenken in diesem Bereich.

 

Innovation in Hardware: Fraunhofer IIS gestaltet die Zukunft der KI

 

Ziel der Initiative »Neuromorphes Computing« des Fraunhofer IIS ist es, künstliche Intelligenz direkt in die Endgeräte zu integrieren und die dazu benötigten Algorithmen und die Hardware zu entwickeln. Dabei sollen skalierbare, konfigurierbare neuromorphe Prozessoreinheiten und integrierte Schaltungen für DNNs und SNNs in CMOS-Technologie durch ihre hohe Parallelverarbeitung und niedrige Latenzzeiten die Leistungsfähigkeit steigern und die Time-to-Market reduzieren.

Um unsere ultraenergieeffizienten und latenzoptimierten ASIC-Designs zu realisieren, nutzen wir unsere Expertise in den Bereichen Rechnerarchitekturen, IC-Design und Neuro-Informatik, ergänzt durch spezifisches Anwendungswissen. Diese Kombination ermöglicht die Entwicklung innovativer Anwendungen im Bereich Edge-AI, die durch unseren effizienten Hardware-Software-Co-Design-Flow zügig umgesetzt werden.

Unser Angebot: Von der Beratung bis zum fertigen Chip

Mit unserem umfangreichen Netzwerk aus Universitäten, Forschungseinrichtungen und industriellen Partnern schlagen wir eine Brücke zwischen den neuesten Technologietrends und branchenüblichen Anwendungen. Wir identifizieren, entwickeln und implementieren für jeden Anwendungsfall das geeignete neuromorphe Design. Unser Angebot umfasst entsprechend:

Machbarkeitsstudien

Wir beraten Sie zu allen strategisch-technologischen Fragen rund um das kompexe Thema neuromorphes Computing. Dabei unterstützen wir Sie mit einem neutralen und auf Ihre Bedürfnisse zugeschnittenen Benchmarking. 

Inferenz-Beschleuniger IPs

Wir entwickeln und lizenzieren individuelle ASICs, auf denen trainierte neuronale Netze direkt implementiert werden können und machen somit Ihr neuronales Netz fit für die Hardware. 

Sensoren-ASICs mit NPU

Wir kümmern uns um die Integration von Sensor-Interfaces sowie die Verarbeitung der Sensorsignale, um analoge Sensoren hochpräzise und kostengünstig auswerten zu können.

Unsere Stärke: Synergien aus Wissenschaft und Praxis

Neuromorphes Computing ist ein interdisziplinäres Feld, das umfassende Fachkenntnisse erfordert. Das Fraunhofer IIS bringt genau diese Expertise mit tiefgreifendem Wissen in Low-Power IC-Design, neuronalen Netz-Algorithmen, Softwaretools und Architekturdesign mit. Zusätzlich verstärken Kompetenzen in Sensorik, Audio-Signalverarbeitung, Bildverarbeitung, Nachrichtenübertragung und Lokalisierung das technologische Portfolio. Langjährige Partnerschaften mit führenden Foundries und Technologie-IP Providern sichern zudem den Zugang zu den benötigten Materialien und Bauteilen für CMOS-Prozesse.

Low-Power IC-Design
© iStock.com / tcareob72 istock / Bearbeitung Fraunhofer IIS

Unsere Stärke im Low-Power IC-Design für neuromorphe Hardware beruht auf umfangreicher Erfahrung im analogen und mixed-signal Schaltungsentwurf für energieautarke Anwendungen. Wir nutzen unser umfassendes Systemwissen sowie unser Know-how über Halbleiterbauelemente und -prozesse für den Entwurf, die Qualifizierung und den Serientest der Komponenten. Unsere Expertise in verschiedenen Halbleitertechnologien und Speicherzellen wie SRAM unterstützt die Auswahl der Halbleiterprozesse. Zudem erweitern wir unser Wissen im Design von nichtflüchtigen Speichertechnologien (eNVM) durch europäische Projekte. In-house entwickelte Tools zur Teilautomatisierung des analogen Designs reduzieren den Entwicklungsaufwand und ermöglichen Anpassungen an unterschiedliche Netzwerkgrößen.

Female Technical Operator Works at Her Workstation with Multiple Displays Showing Neural Network In the System Control Room. IT Technician Works on Artificial Intelligence, Big Data Mining Project.
© Adobe Stock / Gorodenkoff – stock.adobe.com

Wir verfügen über umfassende Kompetenz im Entwurf, Training und der Optimierung von Algorithmen für neuronale Netze (NNs). Unser Fokus liegt darauf, Algorithmen zu entwickeln, die die Berechnungen von MAC (Multiply-Accumulate)-Operationen und Netzwerkparameter effizient reduzieren, ohne dabei die Genauigkeit der Modelle zu beeinträchtigen. Darüber hinaus setzen wir auf Hardware-aware Training, um sicherzustellen, dass unsere Modelle optimal auf der verfügbaren Hardware laufen und deren spezifische Eigenschaften und Beschränkungen berücksichtigen.

Programming code abstract technology background of software developer and  Computer script
© Adobe Stock / monsitj - stock.adobe.com

Unsere Expertise umfasst die Entwicklung und Anwendung von Software-Tools für Hardware/Software Co-Design. Dazu gehören spezialisierte Werkzeuge wie Hardware-Aware-Training- und Inferenz-Tools, Mapper und Compiler, Simulationstools sowie Tools für neuromorphe Hardware-Generatoren zur analogen Synthese. Diese Werkzeuge bilden ein umfassendes Ökosystem, das für die effiziente Gestaltung und Umsetzung integrierter Systeme, die sowohl Hardware als auch Software beinhalten, entscheidend ist.

Electronic circuit board close up.
© Adobe Stock / Raimundas - stock.adobe.com

Im Bereich Architekturdesign entwickeln wir maßgeschneiderte Designarchitekturen für Mixed-Signal Inferenz-Beschleuniger. Unsere Lösungen basieren auf Crossbar-Arrays und ASICs, die hochkonfigurierbar und skalierbar sind. Damit ermöglichen wir effiziente und leistungsfähige Systeme für batteriebetriebene Endgeräte.

Neuromorphes Computing in der Anwendung

Unsere anpassbaren neuromorphen Computing-Lösungen eignen sich für diverse KI-Anwendungen und ermöglichen es uns, spezifische Herausforderungen in verschiedenen Branchen effektiv zu adressieren. Beispiele hierfür sind:

Intelligente Sensorlösungen

Intelligente Sensorlösungen nutzen neuromorphe Technologie, um Daten direkt an der Quelle zu verarbeiten, Latenz und Energieverbrauch zu reduzieren.

Kommunikationstechnologien

Neuromorphe Ansätze verbessern in der Kommunikationstechnologie erheblich die Signalverarbeitung und Netzwerkoptimierung, besonders in der Satellitenkommunikation und IoT.

Smart Wearables

Im Bereich der Smart Wearables werden bessere Akkulaufzeiten und präzisere Gesundheitsüberwachung durch fortschrittliche Sensoren und Echtzeitdatenverarbeitung erreicht.

Audiobranche

Für die Audiobranche ist eine präzisere Spracherkennung und fortschrittliche Audioverarbeitung interessant – ideal für Smart Homes und Unterhaltungselektronik.

Autonome Systeme

Autonome Systeme profitieren enorm von neuromorphem Computing, denn es verbessert die Echtzeit-Umgebungsanalyse und Entscheidungsfindung autonomer Fahrzeuge, steigert so die Sicherheit und Effizienz.

Gesundheitswesen

Im Gesundheitswesen eröffnen unsere neuromorphen Lösungen neue Möglichkeiten in der medizinischen Diagnostik und Patientenüberwachung durch Anomaliedetektion und prädiktive Analysen.

Unsere Referenzen und Projekte

Verschaffen Sie sich hier einen Überblick über unsere branchenübergreifenden Projekte, in denen bereits innovative neuromorphe Technologien und Anwendungen entstehen:

  • ADELIA – Analog Deep-Learning-Inferenz-Beschleuniger

     

    Das Projekt ADELIA von Fraunhofer IIS und Fraunhofer IMPS hat am Innovationswettbewerb »Energieeffizientes KI-System« des Bundesministeriums für Bildung und Forschung (BMBF) in der Kategorie ASIC-22FDX teilgenommen. Ziel war die Entwicklung eines energieeffizienten Crossbar-Analogbeschleunigers.

    Pressemitteilung zu ADELIA

  • ANDANTE – KI für neue Geräte und Technologien in der Edge

     

    Laufzeit: 1.7.2020 – 30.6.2023
    Konsortium: 8 Partner aus Deutschland, weitere 23 europäische Partner
    Fördermittelgeber: ECSEL Joint Undertaking Initiative der EU und Bundesministerium für Bildung und Forschung
    Projektwebseiten: https://www.andante-ai.eu/ https://www.elektronikforschung.de/projekte/andante

     

    Ziel des Projekts ANDANTE ist es, KI-Chips und -Plattformen für Edge-Anwendungen zu entwickeln, die halbleiter-technologischen Grundlagen für diese Chips zu erarbeiten und relevante Edge-Anwendungen mit diesen Chips zu realisieren.

    Das Fraunhofer IIS entwickelt im Rahmen dieses Projekts einen analogen mixed-signal Hardware-Beschleuniger-Chip für neuronale Netze (NN). Die analoge Schaltungstechnik ermöglicht es, die für neuronale Netze zentralen Additions- und Multiplikationsberechnungen mit Hilfe einfachster Schaltungen zu realisieren und damit einen signifikanten Vorteil bezüglich Chipflächenbedarf, Energieeffizienz und Latenz im Vergleich zu digitalen Konzepten zu erzielen. Die analoge Implementierung geht einher mit einigen Imperfektionen wie Rauschen, fertigungsbedingten Nichtlinearitäten und Bauteilvarianzen, die dafür spezielle hardware-aware Training- und Simulations-Tools benötigt. Das Fraunhofer IIS entwickelt deswegen Tools, um für reale analoge Beschleuniger ein kleinstmögliches NN mit gewünschter Genauigkeit und minimalem Energieverbrauch zu erhalten. Im Laufe des Projekts wird, in enger Zusammenarbeit mit dem Fraunhofer EMFT und dem Fraunhofer IPMS, ein KI-Chip in der 22FDX® Globalfoundries Technologie entwickelt und produziert. Die erste Pilotanwendung, die auf KI-Chip und Plattform laufen soll, ist Voice Activity Detection (z.B. für Smart Speaker und Smart-Home-Geräte).

  • KI-FLEX – Rekonfigurierbare Hardwareplattform zur KI-basierten Sensordatenverarbeitung für das autonome Fahren

     

    Laufzeit: 1.9.2019 – 31.8.2023
    Konsortium: 8 Partner aus Deutschland
    Fördermittelgeber: Bundesministerium für Bildung und Forschung
    Projektwebseiten: www.iis.fraunhofer.de/ki-flex https://www.elektronikforschung.de/projekte/ki-flex

     

    Im Projekt »KI-FLEX« entwickeln acht Projektpartner eine leistungsstarke, energieeffiziente Hardware-Plattform und das dazugehörige Software-Framework für autonomes Fahren. Die »KI-FLEX«-Plattform soll Daten von Laser-, Kamera- und Radarsensoren im Auto zuverlässig und schnell verarbeiten und zusammenführen. Dabei kommen Methoden der Künstlichen Intelligenz (KI) zum Einsatz. Das Fahrzeug verfügt so jederzeit über ein präzises Abbild der realen Verkehrsbedingungen, kann sich selbst in diesem Umfeld verorten und auf Basis dieser Informationen in jeder Fahrsituation die richtige Entscheidung treffen.

    Der Beitrag des Fraunhofer IIS besteht in der Entwicklung eines flexiblen DLI-Beschleuniger-Kerns für den Multi-Core-Deep-Learning-Beschleuniger, welcher gemeinsam mit weiteren DLI-Beschleunigern in einen flexiblen, zukunftsfähigen ASIC integriert werden soll. Die Architektur des ASICs ist dabei so ausgelegt, dass zukünftige Verbesserungen von NN-Architekturen, das heißt neu aufkommende NN-Typen und -Konzepte, damit weiterhin realisiert werden können. Dafür werden kritische Stellen gezielt rekonfigurierbar designt, um eine Brücke von der Starrheit eines ASICs hin zur Flexibilität eines FPGAs zu bauen.

  • LODRIC – Low-power Digital deep learning Inference Chip

     

    Laufzeit: 1.8.2021 – 31.7.2024
    Konsortium: 3 Partner aus Deutschland
    Fördermittelgeber:
    Bundesministerium für Bildung und Forschung 
    Projektwebseite: https://www.elektronikforschung.de/projekte/pilot-inno-lodric

     

    Das Projekt LODRIC verlängert die erfolgreiche Zusammenarbeit des Konsortiums, bestehend aus der FAU Erlangen-Nürnberg und dem Fraunhofer IIS, aus dem vorangegangenen Projekt »Lo3-ML«.

    In seiner Fortsetzung geht es um die Entwicklung einer Entwurfsmethodik für energiesparsame digitale KI-Chips mit eingebetteten nichtflüchtigen Speicherelementen und deren prototypische Anwendung anhand drei verschiedener Applikationen. Dabei soll die Hauptinnovation des Projektes »Lo3-ML«, namentlich die Entwicklung datenflussorientierter Rechnerarchitekturen in Verbindung mit verteiltem, nicht-volatilem Gewichtsspeicher und stark (ternär) quantisierten Gewichten aufgegriffen und gezielt methodisch weiterentwickelt werden.

    Das Fraunhofer IIS ist mit den drei Disziplinen Medizintechnik, Entwurf von digitalen Schaltungen und Embedded AI vertreten. Letztere wird dabei ihre Kompetenzen im Bereich hardware-aware Training ausbauen. Dabei wird eine für die Beschleunigertechnologie spezifische Tool Chain weiterentwickelt, durch die zum einen eine signifikante Verkleinerung (Optimierung) des neuronalen Netzes erreicht wird und zum anderen dessen Genauigkeit trotz hoher Quantisierung der Neuronengewichte durch iteratives Nachtrainieren erhalten bleibt.

  • MANOLO – Vertrauenswürdige und effiziente KI für Cloud-Edge-Computing

     

    Laufzeit: 1.1.2024 – 31.12.2026 
    Konsortium: 2 Partner aus Deutschland, 16 weitere europäische Partner 
    Fördermittelgeber: Rahmenprogramm Horizont Europa der Europäischen Union
    Projektwebseite: https://manolo-project.eu/

     

    Im Projekt MANOLO wird ein komplettes Paket vertrauenswürdiger Algorithmen und Tools einwickelt, das die Effizienz und Performance von KI-Systemen verbessert. Im Fokus stehen das energieeffiziente Training der KI-Modelle mit qualitätsgeprüften Daten sowie das Ausführen ressourcenschonender KI-Modelle auf einem breiten Spektrum von Geräten für den Einsatz an der Edge bis zur Cloud.

    Das Fraunhofer IIS konzentriert sich im Projekt darauf, KI-Anwendungen an die Edge zu bringen. Dafür werden Algorithmen und Tools entwickelt, die automatisiert nach geeigneten Neuronalen Netzen suchen und diese optimieren (Neural Architecture Search, NAS). Dabei entstehen effiziente Algorithmen für Deep Neural Networks (DNN), die auf verschiedenster Hardware ausgeführt werden können. Geplant ist die Erprobung in Wearables und in Robotern – sowohl auf klassischen Microcontrollern als auch auf eigens entwickelten KI-Beschleunigern. Darüber hinaus erforscht das Fraunhofer IIS Methoden, um aus DNN-Modellen Spiking Neural Networks (SNN) zu erzeugen, was den Einsatz neuartiger neuromorpher Algorithmen ermöglicht.

  • NEUROKIT2E – Open-Source Deep-Learning-Plattform für Embedded Hardware und Europa​

     

    Laufzeit: 1.6.2023 – 31.5.2026​
    Konsortium: Vier Partner aus Deutschland, 22 weitere aus Europa
    Fördermittelgeber: KDT Joint Undertaking Initiative der EU und des Bundesministeriums für Bildung und Forschung

    NEUROKIT2E verfolgt das Ziel, ein unabhängiges Open-Source-Framework für Edge-/Embedded-KI zu entwickeln, das eine internationale Gemeinschaft von Nutzern und eine Vielzahl von Anwendungsbereichen unterstützen kann. Dieses europäische Framework speziell für eingebettete KI soll mit bestehenden Frameworks kompatibel sein sowie die Entwicklung und Implementierung von KI-Anwendungen auf eingebetteter Hardware erleichtern.​

    Das Fraunhofer IIS wird seine Multicore Mixed-Signal DNN-Inferenzbeschleuniger-Architektur basierend auf analogen Crossbar-Arrays für ultra-low power Anwendungen in NEUROKIT2E einbringen. Hinzu kommen die Weiterentwicklung einer Mapper- und Compiler-Toolchain sowie von Tools zur Optimierung neuronaler Netze. Dies ermöglicht eine effiziente Design-Space-Exploration, um so die optimale Architektur in Bezug auf KPIs (Key Performance Indicators) wie Energieverbrauch, Latenz sowie Durchsatz für den jeweiligen Anwendungsfall zu identifizieren. Darüber hinaus wird das Fraunhofer IIS Tools entwickeln, die das effiziente Mapping von SNNs auf embedded Hardware erlauben.

  • SEC-Learn – Sensor-Edge-Cloud for Federated Learning

     

    Laufzeit: 1.7.2020 – 30.6.2024
    Konsortium: 11 Fraunhofer-Institute aus den Verbünden Mikroelektronik und IUK-Technologie
    Fördermittelgeber: Fraunhofer-Vorstandsprojekt (bis 2021 InnoPush Programm des Bundesministerium für Bildung und Forschung) 

     

    Im Projekt SEC-Learn entsteht ein System von verteilten energiesparenden Edge Devices, die gemeinsam lernen, ein komplexes Problem der Signalverarbeitung durch maschinelles Lernen zu lösen. Der Fokus des Projekts liegt dabei zum einen auf der Entwicklung schneller, energie- und platzeffizienter Hardwarebeschleuniger für Spiking Neural Networks (SNN), zum anderen auf deren Verschaltung zu einem föderierten System, in dem jedes Gerät autonom agieren und lernen kann, seine Lernerfolge allerdings durch föderiertes Lernen mit allen anderen Geräten teilt.

    Dieses Konzept ermöglicht zahlreiche Anwendungen, vom autonomen Fahren bis hin zur Zustandsüberwachung, wo eine dezentrale Datenverarbeitung durch KI mit einem zentralen System zum Training verbunden werden muss – ohne dabei den Datenschutz zu verletzen oder exzessiven Stromverbrauch und Datenverkehr zu verursachen.

    Die im Projekt verwendeten Hardwarebeschleuniger entstehen dabei unter Koordination des Fraunhofer IIS in enger Kooperation mit dem Fraunhofer EMFT und dem Institutsteil EAS des Fraunhofer IIS. Dafür entwickelt das Fraunhofer IIS am Standort Erlangen neuromorphe mixed-signal Schaltungen für spezialisierte Neuronen- und Synapsenmodelle, die zugehörigen Softwaretools für hardware-aware Training und Simulation sowie eine skalierbare Chip-Architektur, die es in Zukunft ermöglichen soll, verschiedenste Anwendungsprobleme bedienen zu können.

    Mehr Informationen zum Projekt SEC-Learn

Fachartikel zum Download

Erhalten Sie wertvolle Einblicke, die neuesten Erkenntnisse und praxisrelevanten Informationen zum Thema Neuromorphes Computing.

Das könnte Sie auch interessieren

 

Fraunhofer IIS Magazin

Mit menschlicher und künstlicher Intelligenz die Zukunft gestalten

Die mehrteilige Serie »Künstlicher Intelligenz« im Online-Magazin des Fraunhofer IIS: In Video- und Textbeiträgen wird das Thema KI vertiefend vorgestellt, über Interviews mit unseren Expertinnen und Experten erfahren Sie mehr darüber, warum das Fraunhofer IIS KI nutzt, welche Projekte aktuell am Institut laufen und wie Sie mit uns zusammenarbeiten können.

 

Pressemitteilung

Energiesparsamer KI-Chip gewinnt Innovationswettbewerb

 

Fraunhofer IIS Jahresbericht

ADELIA: Analoge Technik schafft effizienten KI-Beschleuniger

Alles nur noch digital? Von wegen! Der Mixed-Signal-Inferenz-Beschleuniger Analog Deep Learning Inference Accelerator (ADELIA) Gen2 ASIC zeigt, welche Potenziale nach wie vor im analogen Computing schlummern: Er ermöglicht die Berechnung von Deep Neural Networks (DNNs) energieeffizient und in sehr kurzer Zeit.

Pressemitteilung

Zukunft der KI: ADELIA Gen2 setzt neue Standards in Energieeffizienz

ADELIA Gen2 ist ein KI-Inferenzbeschleuniger, entwickelt im EU-Projekt ANDANTE. Der Chip nutzt analoges In-Memory Computing für energieeffiziente Verarbeitung tiefer neuronaler Netze. Durch die Kombination von analoger und digitaler Technik erreicht ADELIA eine zehnfache Effizienzsteigerung gegenüber rein digitalen Systemen. Einsatzbereiche umfassen unter anderem Smartwatches und lokale Sensordatenklassifizierung.

 

Pulsende Neuronen mit Zeitgefühl

Spiking Neural Networks (SNNs) sind ein Teilbereich des »Neuromorphic Computing«. Wir erforschen nicht nur ihre Topologie, sondern entwickeln ebenso maßgeschneiderte Hardware-Designs für Ultra-Low-Power- und Ultra-Low-Latency-Anwendungen – so wird Künstliche Intelligenz dem menschlichen Gehirn noch ähnlicher.