OEM&Lieferant Ausgabe 2/2021

32 Engineering Partner Künstliche Intelligenz in der Automotive-Branche Blackbox neuronales Netzwerk: Interaktive Visualisierung verbessert das Verständnis von Entscheidungsprozessen in autonomen Fahrzeugen Von Annika Mahl, ARRK Engineering GmbH, München In selbstfahrenden Autos sind zuverlässige Convolutional Neuronal Networks (CNN) essenziell. Denn mit ihrer Hilfe soll die künstliche Intelligenz automatisch andere Verkehrsteilnehmer erkennen. Je selbständiger ein Auto aber fährt, desto größer werden die Anforderungen an die Sicherheit. UmMenschenleben zu schützen, ist daher ein tiefes Verständnis der Klassifizierung dieser neuronalen Netzwerke notwendig. Ein CNN arbeitet allerdings per se als Blackbox. Die komplexen Entscheidungs- wege sind also schwer nachzuvollziehen, wodurch eine Bewertung der Sicherheits- risiken schwierig ist. Diese Probleme können durch eine entsprechende Visualisierung abgemildert werden. Die ARRK Enginee- ring GmbH hat hierzu ein Validierungstool mit einer Methodik zur Analyse dieser Ent- scheidungsprozesse entwickelt. Das Pro- gramm ermöglicht dank seiner interaktiven Visualisierung einen tieferen Einblick in jede Schicht eines CNN. Dabei lassen sich sämt- liche Gewichtungen der Neuronen manuell anpassen, um ihre Auswirkung auf die finale Objekterkennung sowie Einflüsse von Stör- faktoren zu sehen. Bild: © shutterstock.com/sdecoret Mithilfe von Convolutional Neuronal Networks (CNN) sollen beim autonomen Fahren künstliche Intelligenzen beispielsweise Fußgänger erkennen. Allerdings stellt der Prozess bis zur finalen Entscheidung eines CNN weiterhin eine komplexe Blackbox dar, wodurch die Entwicklung einer standardisierten Validierung schwierig bleibt. Václav Diviš „Unser Ziel ist es am Ende, die Anzahl der kritischen Neuronen zu minimieren oder besser aufzuteilen, sodass wir auf eine robuste Bilderkennung der KI vertrauen können“, berichtet Václav Diviš, Senior Engineer ADAS & Autonomous Driving bei ARRK Engineering. „Wir freuen uns daher bereits auf das Feedback aus der Praxis, denn so werden wir das Tool weiter optimieren können.“ Bild: © ARRK Engineering GmbH Die aktuellen Methoden zur Analyse und Validierung neuronaler Netzwerke ent- stammen vor allem der wissenschaftlichen Forschung. Allerdings berücksichtigen sie selten branchenübliche Anforderungen an die funktionale Sicherheit. „Um Präzisions- probleme bei der Objekterkennung durch CNNs besser zu verstehen, haben wir daher eine Software entwickelt, mit der eine standardisierte Validierung möglich ist“, berichtet Václav Diviš, Senior Engineer ADAS & Autonomous Driving bei ARRK Engineering. „Dabei legten wir die Grund- lage einer neuen Bewertungsmethode: die