Tiefe Neuronale Netze – statistische Verfahren des maschinellen Lernens – sind elementarer Bestandteil der künstlichen Intelligenz (KI). Sie erkennen Muster, analysieren Bilder und verarbeiten Sprache. Aber: Sie sind auch für einen zunehmenden Anteil der Rechenlast und damit für den Energieverbrauch sowie den CO2-Ausstoß in Rechenzentren verantwortlich. Wissenschaftlern der Universität Paderborn arbeiten im Rahmen eines neuen Forschungsprojekts jetzt daran, die Energieeffizienz von solchen KI-Systemen zu verbessern, indem sie versuchen, die Anzahl und die Genauigkeit der notwendigen Berechnungen deutlich zu verringern.
Zum Einsatz kommt dabei programmierbare Hardware in Form sogenannter FPGAs (field programmable gate arrays) anstatt der üblichen Zentralprozessoren (CPUs) und Grafikprozessoren (GPUs). Das Projekt wird vom Bundesministerium für Umwelt, Naturschutz, nukleare Sicherheit und Verbraucherschutz (BMUV) bis Ende 2025 als KI-Leuchtturmprojekt mit rund 1,5 Millionen Euro gefördert.
„Tiefe neuronale Netze werden in einem aufwändigen Prozess mit sehr großen Datenmengen trainiert, die daraus resultierenden Modelle dann in der Nutzungsphase für Vorhersagen verwendet. Das Projekt zielt erstmal auf Energieeinsparungen bei der Nutzungsphase von großen Modellen ab“, sagt Prof. Dr. Marco Platzner von der Universität Paderborn, der das Forschungsprojekt leitet. In der Regel werden dafür GPUs oder CPUs genutzt. Je genauer die Berechnungen, desto höher der Energieaufwand. „GPUs und CPUs weisen häufig eine niedrige Energieeffizienz auf. Deshalb setzen wir stattdessen auf FPGAs, weil sie große Energie- und Performance-Vorteile aufweisen“, so Platzner weiter.
Die Wissenschaftler machen außerdem Gebrauch von einem besonderen Verfahren: absichtlich ungenaues Rechnen, das sogenannte Approximate Computing. Platzner erklärt: „FPGAs erlauben es uns, die Genauigkeit der einzelnen Rechenschritte teilweise dramatisch zu reduzieren und trotzdem die erforderliche Qualität der Vorhersagen der Modelle einzuhalten. Damit können wir den Rechenaufwand deutlich reduzieren, was erhebliche Energieeinsparungen mit sich bringt.“
Platzners Fachgebiet Technische Informatik und das Paderborn Center for Parallel Computing (PC2) der Universität Paderborn, das über eines der weltweit leistungsfähigsten FPGA-Systeme verfügt, beschäftigen sich schon seit längerem mit dem energieeffizienten Rechnen mithilfe von FPGAs, auch für KI-Anwendungen.
„Die Ausschreibung der KI-Leuchtturmprojekte des BMUV stellt eine ausgezeichnete Möglichkeit dar, um einen weiteren Beitrag zu einer ressourcenschonenden Nutzung von Rechnerinfrastruktur zu leisten“, so Platzner.
Mit seiner Forschung will das Team aber nicht nur den Energieverbrauch von KI-Systemen reduzieren, sondern ihn auch quantitativ bewerten und für die Nutzer*innen von KI-Systemen transparent machen. Erste Ergebnisse werden schon nächstes Jahr erwartet.