Fraunhofer IIS entwickelt energieeffizienten Mixed-Signal KI-Beschleuniger

Das Fraunhofer-Institut für Integrierte Schaltungen IIS hat im Rahmen des EU-Förderprojekts ANDANTE einen der ersten Mixed-Signal-Inferenz-Beschleuniger entwickelt: ADELIA Gen2.

ADELIA Gen2 ist ein hochspezialisierter KI-Inferenzbeschleuniger-Chip, der aus dem EU-Förderprojekt ANDANTE hervorgegangen ist. ADELIA steht für »Analog Deep Learning Inference Accelerator« und nutzt analoges In-Memory Computing, um stromsparend und energieeffizient tiefe Neuronale Netze (DNNs) zu verarbeiten, d.h. der Chip kann komplexe Aufgaben mit Künstlicher Intelligenz (KI) energieeffizient durchführen. Dies wird erreicht, indem die energieeffiziente analoge Schaltungstechnik zur Berechnung von Multiply-and-Accumulate-Operationen mit der Flexibilität von digitalen Systemen in einem Mixed-Signal-System bestehend aus sechs NPUs (Neural Processing Units) kombiniert wird. Damit ist der ADELIA Gen2-Beschleuniger einer der ersten seiner Art, der sowohl skalierbar als auch voll konfigurierbar ist, womit der Einsatz in unterschiedlichsten Anwendungsfällen mit jeweils optimierten Neuronalen Netzen (NNs) möglich ist.

Etablierte Systeme nutzen üblicherweise noch rein digitale Inferenz-Beschleuniger als Grundlage für die Entscheidung der KI. Diese digitalen Beschleuniger sind aber vergleichsweise energieintensiv und langsamer als analoge. ADELIA geht einen Schritt weiter. Durch Kombination von analogem und digitalem Computing wird die Inferenz-Erzeugung im Vergleich mit rein digitalen Beschleunigern um den Faktor zehn effizienter.

Das volle Potenzial der analogen Hardware kann dabei jedoch nur durch eine aufeinander abgestimmte Hard- und Softwareentwicklung im Co-Design genutzt werden. Die eigenen Software-Toolchains dienen dem Training und der Übertragung der neuronalen Netze auf die Hardware. Generator-Tools für die Synthese der analogen Schaltungen reduzieren zudem die Entwicklungszeiten.

Ultra Low Power: ADELIA Gen 2 ist energieeffizient

Der Adelia-Chip wurde mit Hilfe der 22FDX® GlobalFoundries Technologie entwickelt und demonstriert in unterschiedlichen Anwendungen eine Sprachaktivitätserkennung von unter 200 µW. Profitieren können von der KI vor allem batteriebetriebene Systeme, bei denen eine lange Batterielaufzeit benötigt wird. Zusätzliche Vorteile von ADELIA sind minimierte Latenzzeiten und eine kompakte Bauweise von nur 3 mm² für sechs NPU.

ADELIA Gen 2 hat Zukunftspotenzial

ADELIA Gen2 könnte zukünftig genutzt werden, um beispielsweise Vorhofflimmern über Smartwatches zu erkennen oder KI-gestützte Sensordatenklassifizierung lokal am Sensorsystem durchzuführen. Der Chip kann damit in unterschiedlichen Anwendungsfeldern eingesetzt werden, wie autonome Systeme, Edge-AI, Smart Industry, Healthcare, Audio, Smart Sensors, Smart Wearables oder Communication Systems. Als nächsten Schritt möchten die Forschenden Keyword-Spotting auf ADELIA Gen 2 ausführen, um stromsparende Spracherkennung zu ermöglichen.

Beim Abschlusstreffen des EU-Förderprojekts ANDANTE in Grenoble, Frankreich, erhielten die Forschenden ausgezeichnetes Feedback für den neu entwickelten Chip. Dr. Loreto Mateu, Abteilungsleiterin Integrierte Schaltungen und Systeme am Fraunhofer IIS, berichtete: »Das Feedback von Projektleiter und Gutachtern war äußerst positiv, sie waren beeindruckt von den Ergebnissen, die wir mit unserem Inferenzbeschleuniger erzielt haben.«