OEM&Lieferant Ausgabe 2/2021

33 sogenannte Neurons’ Criticality Analysis.“ Aufgrund dieses Prinzips lässt sich eine zu- verlässige Aussage darüber abgeben, wie wichtig oder schädlich einzelne Neuronen für eine korrekte Objekterkennung sind. Interaktive Visualisierung der Entscheidungsprozesse Das Zusammenspiel der einzelnen Neuro- nen in den zahlreichen Schichten eines CNN ist überaus komplex. Jede Schicht und jedes Neuron übernehmen darin besondere Aufgaben bei der Erkennung eines Objekts – beispielsweise ein grobes Aussortieren nach Formen oder das Filtern bestimmter Farben. Jeder Arbeitsschritt trägt aber in unterschiedlichem Ausmaß zum Erfolg einer korrekten Objekterkennung bei, wes- halb die Wichtigkeit einzelner Neuronen für die Entscheidung bisher undurchschaubar war. Daher hat ARRK Engineering als Herz- stück ihres neuen Tools eine interaktive und nutzerfreundliche Grafik-Oberfläche zur Vi- sualisierung dieser Pfade entwickelt. „Auf diese Weise lässt sich die Entscheidungs- findung eines CNN optisch darstellen“, so Diviš. „Außerdem kann die Relevanz bestimmter Schritte erhöht, verringert oder sogar ganz ausgeschaltet werden. In Echtzeit ermittelt das Tool unmittelbar die Auswirkung dieser geänderten Parameter.“ Das Streaming der Daten lässt sich jeder- zeit pausieren, um eine stressfreie und be- queme Analyse vorzunehmen. Für dieses visuelle Backen wählten die Ex- perten von ARRK Engineering die plattform- übergreifende Programmierschnittstelle OpenGL, um eine größtmögliche Flexibilität zu gewährleisten. Dadurch ist die Software auf jedem Gerät universell einsetzbar – sei dies PC, Handy oder Tablet. „Großen Wert haben wir außerdem auf die Optimierung der Berechnung und der folgenden grafischen Darstellung gelegt“, erläutert Diviš. „Daher wurden in unseren abschließenden Bench- mark-Tests besonders die Framedrops (FPS) überprüft. In diesem Rahmen konnten wir feststellen, dass selbst bei der Verarbeitung eines Videos und unter Verwendung einer Webcam die Framerate stabil bei circa 5 FPS lag – sogar bei der Visualisierung von 90 Prozent aller möglichen Feature-Maps, was in etwa 10.000 entspricht.“ Analyse der kritischen und antikritischen Neuronen Beim Anlernen des CNN innerhalb des Vi- sualisierungs-Tools von ARRK Engineering werden die Deep-Learning-APIs Tensor- Flow und Keras als Grundlage verwendet, wodurch allgemeine Standards wie eine flexible Implementierung sämtlicher Klas- sen und Funktionen in Python bedient wer- den. Sobald das neuronale Netzwerk aus- reichend trainiert wurde, kann die Analyse der kritischen und antikritischen Neuronen beginnen – die Neurons’ Criticality Analysis. „Dafür bieten wir als modifizierbare Para- meter zusätzliches Bildrauschen (noise), das Hinzufügen oder Entfernen von Farbfiltern sowie die Maskierung bestimmter benutzer- definierter Bereiche“, erläutert Diviš. „Eine Veränderung dieser Werte zeigt direkt, wie stark einzelne Neuronen die Entscheidung am Ende beeinflussen.“ Mithilfe eines durchdachten Algorithmus wird basierend auf dieser Analyse auto- matisch die Kritikalität jedes einzelnen Neurons berechnet. Liegt der Wert eines Neurons darüber, stört es die korrekte Bilderkennung. „Die finale Definition des kritischen Schwellenwerts hängt von zahl- reichen Faktoren ab – beispielsweise von der erwünschten funktionalen Sicherheit, aber auch ethische Aspekte spielen hierbei eine Rolle“, ergänzt Diviš. „Je nach Wunsch kann dieser Wert selbst darüber hinaus noch angepasst werden, wodurch die größt- mögliche Flexibilität gewährleistet ist.“ Auf diese Weise ist das Tool nicht auf die der- zeitigen Ansprüche und Normen fixiert, son- dern kann bei Änderungen der Sicherheits- vorschriften jederzeit angepasst werden. Höhere Sicherheit durch tieferes Verständnis von CNNs Mit diesem Visualisierungs-Tool ermöglicht ARRK Engineering eine grafische Validierung neuronaler Netzwerke. Dank der Software in Verbindung mit der NCA können nun weite- re Schritte folgen, um die Sicherheitsrisiken beim autonomen Fahren durch zusätzliche Mechanismen zur Plausibilisierung weiter zu reduzieren. „Unser Ziel ist es, die Anzahl der kritischen Neuronen zu minimieren oder besser aufzuteilen, sodass wir auf eine ro- buste Bilderkennung der KI vertrauen kön- nen“, resümiert Diviš. ARRK Engineering https://t1p.de/2zk9 Kontakt ARRK Engineering GmbH Frankfurter Ring 160 80807 München Telefon +49 89 31857-0 info@arrk-engineering.com Teilen Die interaktive und nutzerfreundliche Grafik-Oberfläche ist das Herzstück des Tools. Auf diese Weise lässt sich die Entscheidungsfindung eines CNN übersichtlich visualisieren. In Echtzeit ermittelt das Tool nach jeder Anpassung der Parameter deren Auswirkung auf das Endergebnis. Der Bereich 1 dient zur initialen Einstellung des Tools. Im Bereich 2 findet man die pausierbare Visuali- sierung der Zwischenschichten. Mit Nummer 3 wird die Übersicht von CNNs Schichten und Parametern bezeichnet. Der Bereich 4 ermöglicht dem Benutzer das Eingangsbild zu beeinflussen. Im Bereich 5 kann man die Gewichtungen von ausgewählten Schichten sehen und zusätzlich ermöglicht Bereich 6 die einzelnen Werte zu ändern. Dieses Bild zeigt ein Beispiel für die grafische Darstellung der Gewichtung einer Schicht. Das Histo- gramm kann für jedes Layer visualisiert werden und gibt zusätzlich den Mittelwert sowie dessen Stan- dardabweichung an. Grafiken: © ARRK Engineering GmbH