Lernkonzepte in tiefen neuronalen Netzen

• Antragsteller: Professor Dr. Klaus-Robert Müller
• Fachliche Zuordnung: Bild- und Sprachverarbeitung, Computergraphik und Visualisierung, Human Computer Interaction, Ubiquitous und Wearable Computing ; Softwaretechnik und Programmiersprachen
• Förderung: Förderung von 2012 bis 2017
• Projektkennung: Deutsche Forschungsgemeinschaft (DFG) - Projektnummer 227351812

Geeignete Repräsentationen zu lernen und nützliche Merkmale aus Daten zu extrahieren sind fundamentale Probleme des maschinellen Lernens. Erst vor kurzem wurden neue Methoden entwickelt, die es erlauben tiefe Repräsentationen zu lernen (tiefe neuronale Netze oder tiefe probabilistische graphische Modelle). Bisherige Forschung konnte den empirischen Vorteil tiefer Lernmaschinen zwar validieren, jedoch fehlt zur Zeit noch ein genaueres Verständnis dieserArchitekturen. Als offene Fragen ergeben sich: Sind tiefe Repräsentationen fundamental von Kernen verschieden oder können sie als spezielle Kerntypen verstanden werden? Welche Charakteristikamachen tiefe Repräsentationen nützlich?Das vorliegende Projekt ist zweigeteilt. Im ersten analytischen Teil werden wir generative und diskriminative Methoden zur Analyse von tiefen Repräsentationen analysieren. Wir antizipieren,dass diese Analyse eine einheitlichen Sicht auf Kerne und Repräsentationen erlauben wird und somit hilft, die unseres Erachtens falsche Dichotomie zwischen sogenannten tiefen und flachen Repräsentationen aufzulösen. Im zweiten konstruktiven Teil, sollen diese analytischen Werkzeuge eingesetzt werden, um alternative Konzepte des tiefen Lernens zu erforschen. Unser Ansatz versucht - mittels der zunächst zu entwickelnden analytischen Maße - aus einer großen Menge zufälliger Kandidatenstrukturen gute tiefe Repräsentationen zu selektieren.Als Resultate des Projektes erwarten wir neue (1) Maße zur präzisen Quantifizierung der Charakteristika und Vorteile tiefer Lernmaschinen sowie (2) Konzepte zur Konstruktion verbessertertiefer Lernalgorithmen basierend auf diesen Maßen.

• DFG-Verfahren: Sachbeihilfen
• Beteiligte Person: Professor Dr. Marc Toussaint