Gamer würden neidisch werden
18.02.2021
Das Institut für optische Systeme arbeitet mit einem neuen GPU-Cluster mit besonderen Fähigkeiten: 320GB Grafikkartenspeicher dienen der KI-Forschung.
Für die Forscher*innen des Instituts für Optische Systeme war es wie ein verspätetes Weihnachten. Sie konnten nun ein neues Computersystem in Betrieb nehmen. „Gamern würde das Wasser im Mund zusammenlaufen“, sagt Doktorand Daniel Dold. „Es verfügt über brutal viel mehr Hardware in einem relativ kleinen Gehäuse“, ergänzt Doktorand Matthias Hermann. Beide arbeiten am Institut für Optische Systeme (IOS) im Forschungsprojekt „Deep Doubt“ von Prof. Dr. Oliver Dürr.
Im Wettlauf mit "Kryptominern" und Gamern
Etwas länger als geplant mussten sie auf ihren neuen Kollegen warten. Schuld daran war, wie so oft in diesen Zeiten, das Coronavirus. Bedingt durch den Lockdown war die Produktion verlangsamt und der Bedarf an Grafikkarten gestiegen, schließlich haben nicht nur Gamer, sondern auch “Kryptominer” und Forscher*innen wachsende Bedürfnisse an ihre Ausstattung.
Was ist so besonders an dem System?
Der Computer verfügt achtmal über 40 GB Grafikkartenspeicher, also insgesamt über 320 GB. Zum Vergleich: In „normalen“ Rechnern in Büros der HTWG sind acht bis 16 GB Grafikkartenspeicher Standard. „Gigantisch große mathematische Berechnungen“ kann der Computer durchführen, und das in hoher Geschwindigkeit, schwärmt Dold. Matthias Hermann konkretisiert: „5 PetaFLOPS.“ FLOPS steht für "Floating Point Operations Per Second". Die Einheit gibt an, wie viele mathematische Operationen ein Computer pro Sekunde erledigen kann, also in diesem Fall 5000.000.000.000.000. „Ein normaler Computer könnte nicht berechnen, was dieser Computer in einer Minute errechnet – oder das Ergebnis würde Wochen dauern“, erläutert Hermann.
Forschungsprojekt Deep Doubt
Die Anschaffung war möglich und nötig für das Forschungsprojekt „Deep Doubt“ (siehe Infokasten) von Prof. Dr. Oliver Dürr. Es will Nutzer*innen von KI Transparenz ermöglichen, wie sicher sich ein KI-System ist. „Am Beispiel Gesichtserkennung bedeutet Deep Learning die Optimierung von neuronalen Netzen auf Basis sehr, sehr vieler Bilder eines Gesichts. Derzeit ist das System aber nicht in der Lage, auf Ausreißer zu reagieren bzw. auf durch Ausreißer provozierte Unsicherheiten hinzuweisen. Es kann nicht sagen: Hey, das da kenne ich nicht, das passt überhaupt nicht in die bisherige Reihe“, macht Prof. Oliver Dürr anschaulich. Stattdessen kann die Verarbeitung des Ausreißers zu Verfälschungen führen. Damit sind also Unsicherheiten in der KI gegeben. In dem dreijährigen, stark anwendungsorientierten Forschungsprojekt sollen solche Unsicherheitsmaße bestimmt werden. „Wir wollen Methoden für Transparenz, Nachvollziehbarkeit und Erklärbarkeit entwickeln. Ziel des Projekts ist es, die Modellunsicherheit im Rahmen von neuronalen Netzen zu quantifizieren und über ein Werkzeug zur Verfügung zu stellen“, sagt Prof. Dürr.
Das Forschungsprojekt
„Deep Doubt – Weiterentwicklung von Unsicherheitsmaßen zur Erhöhung der Transparenz und Nachvollziehbarkeit im Deep Learning und deren Anwendung auf optische Systeme“ wird vom Bundesministerium für Bildung und Forschung (BMBF) gefördert. Projektleiter Prof. Dr. Oliver Dürr wird mit Prof. Dr. Georg Umlauf sowie den Doktoranden Matthias Herrmann und Daniel Dold vom Institut für Optische Systeme (IOS) Methoden untersuchen, die es künstlichen Intelligenzen ermöglichen, Unsicherheiten auszudrücken.
Deep Learning ist die Kerntechnologie in modernen KI-Anwendungen. „Obwohl Deep Learning bahnbrechende Erfolge unter anderem in der Vorhersage von Ereignissen verzeichnen kann, wird eine transparente Modellierung von Unsicherheiten bisher kaum berücksichtigt. Weiterhin sind Entscheidungen solcher Methoden schwer nachvollziehbar, wenn sie auf komplexen Eingangsdaten, wie Bildern, angewendet werden“, erläutert Prof. Dürr.
Im Rahmen des Vorhabens werden Methoden für Transparenz, Nachvollziehbarkeit und Erklärbarkeit entwickelt. Ziel dieses Projekts ist es, die Modellunsicherheit im Rahmen von neuronalen Netzen zu quantifizieren und über ein Werkzeug zur Verfügung zu stellen. Darüber hinaus ist eine transparente Entscheidungsfindung im Bereich der optischen Systeme aufgrund großer Datenmengen nicht effizient modellierbar – dies wird im Rahmen des Projekts angegangen.
Die Nutzung von Unsicherheitsmaßen kann auch gewinnbringend im Active-Learning angewendet werden. Dabei ist über die reine Methodenentwicklung hinaus eine grafische Schnittstelle erforderlich, um diese Methoden für Anwender (Domänen-Experten) verfügbar zu machen. Dies ist insbesondere im Bereich der Qualitätssicherung, Produkthaftung sowie Nutzung von KI im medizinischen Umfeld wichtig, um Fehlentscheidungen effektiv zu verhindern.
Damit das alles nicht nur graue Theorie bleibt, sondern auch aktiv verwendet wird, arbeitet das IOS mit der Software Firma KNIME aus Konstanz zusammen. Die im Rahmen des Projektes (Förderkennzeichen 01/S19083) entwickelten Funktionen werden als quelloffene („open source“) Erweiterungen für KNIME Analytics Platform veröffentlicht und sind somit unmittelbar für Wirtschaft und Gesellschaft verfügbar.“
Durch die assoziierten Unternehmen Siemens Logistics GmbH, Katamaran-Reederei Bodensee GmbH & Co. KG und exorbyte GmbH werden die entwickelten Methoden darüber hinaus industrie nah im Bereich der Oberflächeninspektion zur Erkennung von Produktionsfehlern und im Rahmen der Umgebungserfassung erprobt.
An erster Stelle steht nun das Füttern des „Supercomputers“ mit sehr, sehr vielen Daten. Für das Machine Learning sind schließlich viele Trainingsbeispiele nötig. Beim Training muss ein gleichzeitiger, parallelisierter Zugriff auf die Daten möglich sein. Mit weniger leistungsstarken Rechnern ist dies nur einzeln bzw. sequenziell möglich. Dementsprechend stark ist der Hauptprozessor des neuen Rechners: Während ein solider Büro-Rechner acht CPU-Kerne, umgangssprachlich Rechenkerne genannt, hat, verfügt das auf NVIDIA A100 basierende System des IOS über zweimal96 CPU-Kerne, also insgesamt 192.
„Dabei sind die Berechnungen im Grunde trivial“, räumt Prof. Oliver Dürr ein und ergänzt: „Die Mathematik dahinter ist nicht sehr kompliziert, Additionen und Multiplikationen, einfache lineare Algebra, die massiv parallelisiert werden kann. Dafür sind Grafikkarten am besten geeignet.“ Die Herausforderung ist die Masse an Daten, die im Rahmen des Forschungsprojekts zu verarbeiten ist. Das IOS fokussiert sich auf Bilddaten, die unter anderem in der Robotik bei der Umgebungserfassung (wie beim autonomen Fahren) oder in der Qualitätskontrolle beispielsweise bei Fließbandfertigung eine wichtige Rolle spielen. „Bei der Erfassung durch Lidar- und Kamerasensoren kommen gigantische Datenmengen zusammen“, führt Daniel Dold aus.
Im Forschungsprojekt arbeiten die Wissenschaftler mit „echten“ Bilddaten. Matthias Hermann sagt: „Das macht das Projekt so interessant, die Daten werden uns von industrienahen Kooperationspartnern zur Verfügung gestellt.“ Kooperierende Firmen sind: KNIME GmbH, Siemens Logistics GmbH, Katamaran-Rederei Bodensee GmbH & Co. KG und exorbyte GmbH.
Zunächst werden Professor*innen, Doktorand*innen und studentische Hilfskräfte im Forschungsprojekt an dem Computer arbeiten. Später werden auch Studierende von der Anschaffung profitieren und ihn für Abschlussarbeiten nutzen können. „Aber“, das muss Oliver Dürr schmunzelnd einräumen, „dass Gamer ihn werden nutzen können, das wird nicht möglich sein.“
Weitere Informationen auf der Website des Instituts für Optische Systeme (IOS)