Edge AI for Data Analytics in Free Electron Lasers

Das Ziel ist es, neue Ansätze für optimierte, ressourceneffiziente NNs zu entwickeln, damit diese auf ressourcenbeschränkten Edge- und IoT-Geräten eingesetzt werden können. Ein besonderer Fokus in diesem Projekt liegt auf der Verwendung von energieeffizienten Beschleunigern wie DSPs, eingebetteten GPUs und FPGAs und deren Anwendung in der Physisk.

In den letzten Jahren hat sich die Nachfrage nach ressourceneffizienten Methoden für die Datenanalyse und künstliche Intelligenz, insbesondere für künstliche Neuronale Netzwerke (NNs), die in ressourcenbeschränkten Edge- und IoT-Umgebungen eingesetzt werden können, stark erhöht.  Die Gründe dafür sind vielfältig:

1.Energieeffizienz:
Daten werden in der Regel von Sensoren erfasst, z. B. von, Kameras und LIDARs bis hin zu einfachen Temperatursensoren. Dadurch, dass die Datenanalyse in die Nähe dieser Quellen gebracht wird, verringert sich die Notwendigkeit der Kommunikation mit z. B. Cloud-Geräten, wo die Datenanalyse traditionell durchgeführt wird. Die Kommunikation ist um mehrere Größenordnungen energieintensiver als Berechnungen. Die Möglichkeit, Daten nahe an der Quelle (vor-)zu analysieren, ist daher von Vorteil, um den Kommunikationsbedarf und damit den Energieverbrauch zu senken, beispielsweise bei batteriebetriebenen Geräten.

2. Datenschutz:
Viele Nutzer bevorzugen es, wenn ihre Daten auf ihren persönlichen Geräten, z. B. in einem Haushalt, verbleiben und dort analysiert werden, anstatt sie zur Analyse an Cloud-Dienste zu übermitteln, denen die Nutzer ihre persönlichen Daten oft nicht anvertrauen.

3. Ausfallsicherheit:
Wenn man sich bei der Datenverarbeitung auf zentralisierte Cloud-Dienste verlässt, kann es bei der Kommunikation und der Verarbeitung zu einzelnen Fehlerpunkten kommen.

4. Latenz:
Bei vielen Anwendungen, wie z. B. der Regelung in Industrie 4.0-Umgebungen (intelligente Fabriken) oder der Koordinierung von Manövern von Drohnen oder autonomen Fahrzeugen, ist die Latenz vom Sensor und Edge-Gerät zur Cloud (und zurück) oft zu lang. Daher sind Edge- und On-Sensor-Verarbeitung gefragt.

Ziel der Projektes:
Das Ziel ist es, neue Ansätze für optimierte, ressourceneffiziente NNs zu entwickeln, damit diese auf ressourcenbeschränkten Edge- und IoT-Geräten eingesetzt werden können. Ein besonderer Fokus in diesem Projekt liegt auf der Verwendung von energieeffizienten Beschleunigern wie DSPs, eingebetteten GPUs und FPGAs und deren Anwendung in der Physisk.
Die Herausforderung sind hierbei die Ressourcenbeschränkungen der Sensoren und Edge Geräte in Bezug auf Rechenleistung, Speicher und oft auch Energie.

Herangehensweise:
– Entwicklung von Methoden für ressourceneffiziente NNs: z. B. weniger Schichten, Pruning, binäre NNs, Splitting, Autocodierer für Kompression und Filterung
– Neue Ansätze für den Entwurf von NNs durch Network Architecture Search (NAS)
– Langfristig: potenziell auch dynamische NNs: frühzeitiges Ausscheiden, Überspringen von Schichten

Anwendungsbereich:
Messgeräte, wie sie oft in Beschleunigern in der Physik eingesetzt werden, erfassen Daten oft mit sehr hohen Raten und hohem Durchsatz (auch High Velocity genannt). Diese können die Daten nicht mit dieser Geschwindigkeit speichern. Heute speichern diese Geräte nur eine vorkonfigurierte Teilmenge der Daten und lassen den Rest weg. Forscher in der Physik sind sehr an datengesteuerten Ansätzen interessiert  unter Verwendung von NNs, die darauf trainiert werden können, Daten zu filtern und zu aggregieren und darüber hinaus zu lernen, Ereignisse von Interesse in ihren Strömen zu erkennen. Ihre Sensoren enthalten Rechenkapazitäten, die oft auf FPGAs oder anderen Geräten wie eingebetteten GPUs oder DSPs basieren. Diese können zur Beschleunigung der NN-Inferenz verwendet werden.

Teammitglieder

Prof. Dr. Olaf Landsiedel

Projektleiter Informatik

Prof. Dr. Kai Rossnagel

Projektleiter Physik

Naina Said

Wissenschaftlerin Informatik

Markus Scholz

Wissenschaftler Physik

Jens Buck

Wissenschaftler Physik

Jakob Drilling

Wissenschaftler Physik

Publikationen