Copyright: Universität Paderborn/Frank Korsch
Die Ausgangssituation: Was ist die ökologische Herausforderung?
Tiefe Neuronale Netze (engl. “Deep Neural Networks”, DNNs) sind statistische Verfahren des maschinellen Lernens, eines Teilgebiets der Künstlichen Intelligenz (KI). DNNs erkennen Muster, analysieren Bilder und verarbeiten Sprache. Für die Entwicklung dieser mathematischen Modelle werden sehr große Mengen charakteristischer Daten verarbeitet (sog. Training). In der anschließenden Nutzungsphase (sog. Inferenz) generieren die Modelle auf Basis der Eingabedaten dann Vorhersagen. Problematisch ist, dass DNNs für einen zunehmenden Anteil der Rechenlast und somit für den Energieverbrauch und den einhergehenden CO2-Ausstoß in (Cloud-)Rechenzentren verantwortlich sind. Da die Nachfrage nach DNN-basierter KI jedoch stark wachsen wird, besteht ein hoher Handlungsbedarf, ihre Umweltbelastungen und Betriebskosten zu senken.
Die Idee: Welchen Beitrag kann KI konkret leisten?
Für die Inferenz von DNNs werden Grafikprozessoren (GPUs) oder Zentralprozessoren (CPUs) genutzt. Je genauer die Berechnungen, desto höher der Energieaufwand. Doch GPUs und CPUs weisen eine oft niedrige Energieeffizienz auf. Dort setzt das Projekt eki an. Es soll die Energieeffizienz von KI-Systemen für DNN-Inferenz optimieren. Dazu baut das Projekt auf High-End „Field-Programmable Gate-Array“-Systeme (FPGAs) anstelle der GPUs oder CPUs. FPGAs können große Energie- und Performance-Vorteile aufweisen, werden aber bisher in der Praxis wenig genutzt. Außerdem setzt das Projekt auf ein Verfahren des absichtlich ungenauen Rechnens (Approximation). Die Berechnungen sind gerade noch so genau, dass sie akzeptabel in Bezug auf die erforderliche Qualität der Ergebnisse sind. Dafür kann eki den Rechenaufwand der Nutzung von KI-Systemen reduzieren und deutliche Energieeinsparungen erzielen. Weitere Aspekte des Projekts sind die Entwicklung einer AutoML-Methode zur Energieoptimierung und die experimentelle Evaluierung mit Test-DNNs sowie zwei Anwendungsfallstudien aus den Bereichen der natürlichen Sprachverarbeitung und der Optimierung in der Landwirtschaft.
Der Ausblick: Welchen Leuchtturmcharakter hat das Projekt?
eki zielt auf Energieeinsparungen bei der Inferenz von großen DNN-Modellen ab, die zukünftig auf Hochleistungs-FPGAs in Rechenzentren gerechnet werden. Der technisch-innovative Kern des Projektes liegt in dem genutzten Approximationsverfahren für FPGAs, der genauen Charakterisierung des Energieverbrauchs von KI-Systemen in Verbindung mit energieoptimierendem maschinellen Lernen, sowie der empirischen Bewertung.