Fraunhofer-Institut für Integrierte Schaltungen IIS
Projektübersicht
Die Herausforderung: Der Ressourcenhunger moderner KI
Die rasante Entwicklung von großen Sprachmodellen (LLMs) und Basismodellen - wie ChatGPT, Claude und spezialisierten industriellen Neuronalen Surrogat-Netzwerken - führt zu einem erheblichen Engpass bei den Rechenkapazitäten. Das Training dieser hochentwickelten, wegweisenden KI-Systemen erfordert eine massive Infrastruktur aus GPU-Clustern, was enorme Mengen an elektrischer Energie verschlingt und moderne Rechenzentren an ihre ökologischen und wirtschaftlichen Grenzen treibt. Gemäß den "Neural Scaling Laws" erzwingt das Erreichen einer besseren Modellleistung typischerweise einen exponentiellen Anstieg der Trainingszeit und der Rechenressourcen. Dieser kontinuierlicher Bedarf an immer größeren Datensätzen und Weiterentwicklung moderner KI dar.
Unsere Vision: Revolution des Basismodell-Trainings mittels Quantencomputing
Das Projekt QC-Train schlägt eine Brücke zwischen zwei prägenden Zukunftstechnologien: Quantencomputing (QC) und Künstliche Intelligenz (KI). Unser Kernfokus liegt darauf, das Training massiver KI-Basismodelle grundlegend neu zu gestalten, indem wir die ressourcenintensivsten mathematischen Operationen von traditioneller Hardware auf Quantenprozessoren verlagern. Erste technische Prognosen zeigen, dass quantenbeschleunigte Trainings-Workflows eine signifikante Verringerung des Ressourcenverbrauchs im Vergleich zu traditionellen klassischen Methoden ermöglichen könnten - und weisen damit den Weg für die nachhaltige Enwicklungen der wegweisenden KI der nächsten Generation.
Technischer Lösungsansatz
Um dies zu erreichen, entwickelt das Projekt Software-Werkzeuge, die sowohl klassische als auch Quantenalgorithmen für die Erstellung effizienter Trainings-Workflows solcher Basismodelle anpassen. Zunächst werden Standard-Modelltrainingsstrategien aus der klassischen Informatik in Routinen umformuliert, die auf einen Quantencomputer ausgelagert werden können. Anschließend werden diese Routinen als Quantenalgorithmen formuliert und auf Robustheit, Skalierbarkeit und Ressourcenanforderungen analysiert. Schließlich werden Vorteilsregime identifiziert, um genau die Szenarien zu bestimmen, in denen die Quantenbeschleunigung einen klaren wirtschaftlichen und ökologischen Vorteil bringt, sobald fehlertolerante Quantencomputer (FTQC) verfügbar sind.
Die Rolle des Fraunhofer IIS
Als technischer Leiter für Quantenalgorithmen und Quantensoftware-Design bildet das Fraunhofer IIS (vertreten durch die Forschungsgruppe Quantum Compilation) das fundamentale Bindeglied, das darauf abzielt, die Lücke zwischen Anwendungen, Algorithmus und Quantenhardware zu schließen. Wir beabsichtigen, dies durch die Entwicklung automatisierter Software-Werkzeuge zu erreichen, um klassische Gleichungen, die den Trainingsprozess in großen Basismodellen steuern, in Quantenschaltkreise zu übersetzen. Diese Schaltkreise implementieren Quantenalgorithmen, von denen eine Beschleunigung der Trainings-Pipeline erwartet wird. Insbesondere entwickeln wir Techniken und Werkzeuge für die ressourceneffiziente Kompilation der Blockkodierung, dem grundlegenden Baustein, der dem angestrebten Quantenalgorithmus zugrunde liegt.
