Fraunhofer-Institut für Integrierte Schaltungen IISEnergieeffiziente Inferenz tiefer neuronaler Netze direkt am Endgerät
Der Einsatz von Künstlicher Intelligenz direkt auf Endgeräten und nahe der Datenquelle stellt nach wie vor eine große Herausforderung dar. Tiefe neuronale Netze (Deep Neural Networks, DNNs) benötigen erhebliche Rechenressourcen, was zu einem hohen Energieverbrauch und erhöhten Latenzzeiten führt. Herkömmliche Mikrocontroller und digitale Beschleuniger stoßen dabei häufig an ihre Grenzen und können die Anforderungen moderner, dauerhaft aktiver KI-Anwendungen nicht effizient erfüllen.
ADELIA verfolgt einen grundlegend neuen Ansatz für die KI-Beschleunigung. Als Mixed-Signal-KI-Beschleuniger kombiniert ADELIA analoge und digitale Rechenverfahren, um tiefe neuronale Netze mit außergewöhnlich hoher Energieeffizienz auszuführen.
Das Herzstück der Technologie bilden konfigurierbare LP-vxCores, die zentrale Operationen neuronaler Netze nach analogen Rechenprinzipien ausführen und dabei durch eine flexible digitale Steuerlogik ergänzt werden. Diese hybride Architektur ermöglicht die hochparallele Ausführung von Multiply-and-Accumulate-Operationen – dem rechnerischen Fundament moderner KI-Modelle – und reduziert den Energieverbrauch im Vergleich zu rein digitalen Ansätzen erheblich.
Das Ergebnis ist eine energieeffiziente KI-Datenverarbeitung in Echtzeit direkt dort, wo die Daten entstehen.