Probabilistische Numerische Methoden - Probabilistisches Programmieren für Autonome Maschinen

• Antragsteller: Professor Dr. Philipp Hennig
• Fachliche Zuordnung: Bild- und Sprachverarbeitung, Computergraphik und Visualisierung, Human Computer Interaction, Ubiquitous und Wearable Computing ; Mathematik
• Förderung: Förderung von 2015 bis 2017
• Projektkennung: Deutsche Forschungsgemeinschaft (DFG) - Projektnummer 265399621

Probabilistisches maschinelles lernen basiert zu großen Teilen auf numerischen Operationen, aber zeitgenössische numerische Methoden können nur begrenzt mit unsicheren Eingabegrößen umgehen. Das hier vorgeschlagene Forschungsprogramm zielt auf die Entwicklung von numerischen Algorithmen für lineare Algebra, Optimierung und die Lösung von gewöhnlichen Differentialgleichungen, welche Wahrscheinlichkeitsverteilung als Eingabegrößen akzeptieren, und Wahrscheinlichkeitsverteilungen zurückgeben die Fehler der numerischen Rechnung möglichst getreu abbilden. Zusammengenommen werden diese Algorithmen approximative Fehlerfortpflanzung durch den gesamten Programmlauf autonomer Maschinen erlauben. Die konzeptionelle Basis des Forschungsprogramms ist die Beobachtung, dass numerische Methoden selbst als autonome, lernende Algorithmen interpretiert werden können, da sie aktiv Messgrößen sammeln, um nicht direkt messbare Größen (wie Matrix-Zerlegungen, Extrema und die Lösung von Differentialgleichungen) zu schätzen. Insbesondere lassen sich einzelne populäre Verfahren in all diesen Bereichen, wie der Conjugate Gradient Algorithmus, die BFGS Regel, und Runge-Kutta Verfahren mehr oder wenig direkt als probabilistische Inferenzregeln re-interpretieren. Bei diesem Schritt treten typischerweise zusätzliche Freiheitsgrade auf, welche die Fehlerschätzung des Algorithmus beeinflussen und nicht teil der klassischen Analoga sind. Methoden zur effektiven Schätzung dieser Freiheitsgrade sind ein zentrales Ziel des Forschungsprogramms.Wir verfolgen zwei sich gegenseitig ergänzende Ziele: Drei separate Arbeitsstränge werden probabilistische Methoden für die spezifischen Problemstellungen in linearer Algebra, nichtlinearer Optimierung, und der Lösung von Differentialgleichungen entwickeln. Zentrale Ziele sind hier ein besseres mathematisches Verständnis, und erweiterte Funktionalität im Kontext unsicherer Ein- und Ausgaben. Dies wird Anwendern mehr Flexibilität für die Verwendung von numerischen Methoden ermöglichen, ein Ergebnis von großem potentiellen wissenschaftlichen, gesellschaftlichen und wirtschaftlichen Wert, der aufgrund der Rolle numerischer Methoden als Schlüsseltechnologie in vielen Feldern jedoch schwer zu quantifizieren ist. Ein vierter Arbeitsstrang verbindet die einzelnen Richtungen in eine gemeinsame Suite von Methoden zur Fehlerfortpflanzung durch den Rechenfluss von autonomen Maschinen. Das propagierte Fehlermaß stelle eine neue diagnostische Größe dar, welche sowohl vom menschlichen Designer als auch der autonomen Maschine selbst verwendet werden kann um Rechenkosten aktiver zu verteilen, und die Präzision des Gesamtsystems zu verbessern.

• DFG-Verfahren: Emmy Noether-Nachwuchsgruppen