Operative Erklärungen für maschinelle Klassifikationsverfahren ((11) A05)

Fachliche Zuordnung Bild- und Sprachverarbeitung, Computergraphik und Visualisierung, Human Computer Interaction, Ubiquitous und Wearable Computing
Förderung Förderung von 2019 bis 2022
Projektkennung Deutsche Forschungsgemeinschaft (DFG) - Projektnummer 389792660
 

Projektbeschreibung

Wir entwickeln ein Rahmenwerk für Erklärungen im maschinellen Lernen (ML), fokussiert auf neuronale Netzwerke. Da die Entscheidungen derzeitiger Klassifizierer extrem fragil sind, arbeiten wir zunächst an deren beweisbarer Robustheit. Für robuste Klassifizierer erstellen wir dann operationelle Erklärungen, die angeben, wie sich die Eingabewerte möglichst geringfügig ändern müssten, um die Entscheidung zu verändern. Wir erforschen die effiziente Visualisierung solcher Resultate durch einen interaktiven Prozess zur Exploration operationeller Erklärungen in der Nachbarschaft vorliegender Eingabewerte. Dies unterstützt Benutzer in der Plausibilisierung der Klassifizierer-Entscheidung und unterstützt ML-Experten im Debugging.
DFG-Verfahren Transregios
Teilprojekt zu TRR 248:  Grundlagen verständlicher Software-Systeme - für eine nachvollziehbare cyber-physische Welt
Antragstellende Institution Universität des Saarlandes
Teilprojektleiter Professor Dr. Stefan Gumhold; Professor Dr. Matthias Hein