Servicenavigation

Detailseite

Zurück

Projekt Druckansicht

TRR 248:  Grundlagen verständlicher Software-Systeme - für eine nachvollziehbare cyber-physische Welt

Fachliche Zuordnung Informatik, System- und Elektrotechnik
Geisteswissenschaften
Sozial- und Verhaltenswissenschaften
Förderung Förderung seit 2019
Projektkennung Deutsche Forschungsgemeinschaft (DFG) - Projektnummer 389792660
 
Ob in autonomen Fahrzeugen oder im Smart Home – Computerprogramme sind zunehmend an Handlungen und Entscheidungen beteiligt, die Menschen betreffen. Die rasante Zunahme softwarebasierter Innovationen geht mit dem Verlust menschlicher Möglichkeiten einher, diese Innovationen auch zu verstehen und zu kontrollieren. Zentraler Grund dafür ist, dass gegenwärtige Computer- und KI-gestützte Systeme über keine inhärenten Konzepte verfügen, ihr eigenes Verhalten zu erklären. Sie berechnen Ergebnisse und reichen diese weiter, sie sind aber nicht dafür entworfen, diese auch zu erläutern. Sie sind nicht verständlich. Das Center for Perspicuous Computing (CPEC) stellt sich dieser Herausforderung und schafft die wissenschaftlichen Grundlagen für den Entwurf, die Analyse und die Interaktion mit computergestützten Systemen der Zukunft, die ihre Funktionsweise erklären. Wir nennen sie „Perspicuous Systems“ (Verständliche Systeme) und haben uns als Ziel gesetzt, Grundlagenforschung für eine nahtlose Unterstützung von Verständlichkeit über den gesamten Lebenszyklus eines Systems zu betreiben, d. h. von der Entwurfszeit über die Laufzeit bis hin zur nachträglichen Analyse, z.B. bei Fehlfunktionen. Der SFB legt besondere Schwerpunkte einerseits auf formale Entwurfs- und Analysemethoden, die notwendige Strukturen, insbesondere mathematische Erklärungen, erzeugen, um Systeme verständlich zu machen; andererseits auf Mensch-Computer-Interaktion, Visualisierung und Generierung natürlicher Sprache, damit Menschen diese mathematischen Erklärungen auch begreifen können, indem sie in für Menschen verständliche Erläuterungen umgewandelt werden; schließlich auf die tiefgreifende Integration dieser Bereiche, die notwendig ist, um eine ganzheitliche Sichtweise auf verständliche Systeme zu verwirklichen. Damit lassen sich insbesondere auch Risiken minimieren, die durch mit künstlicher Intelligenz arbeitende Systeme entstehen.Mit der Etablierung des „Perspicuous Computing“ als Wissenschaft führt CPEC eine Entwicklung an, die auf verständliche, nachvollziehbare und vorhersehbare softwarebasierte Systeme abzielt. Der SFB erweitert sein Forschungsspektrum im Hinblick auf drei miteinander verknüpfte Aspekte: 1) eine vertiefte Untersuchung von Feedbackschleifen innerhalb des Systemlebenszyklus, wobei Erkenntnisse aus der Systemanalyse in die Entwurfszeit zurückfließen, 2) die Betonung der menschzentrierten und psychologischen Forschung in Bezug auf den „Human-in-the-Loop“, wobei die Interaktion verschiedenster Akteure mit verständlichen Systemen untersucht wird, und 3) die Berücksichtigung der gesellschaftlichen Dimension von Nachvollziehbarkeit („Society-in-the-Loop“), womit auch die Zunahme gesetzlicher Anforderungen reflektiert wird. Die CPEC-Forschung dient dem wachsenden Bedürfnis der Gesellschaft, die Kontrolle über die computergestützten Systeme zu behalten, mit denen wir alle interagieren – sie ermöglicht Nachvollziehbarkeit und Kontrolle in einer cyber-physischen Welt.
DFG-Verfahren Transregios

Laufende Projekte

Abgeschlossene Projekte

Antragstellende Institution Universität des Saarlandes
Mitantragstellende Institution Technische Universität Dresden
Beteiligte Hochschule Technische Universität Wien
 
 

Zusatzinformationen

© 2024 DFG Kontakt / Impressum / Datenschutz

Textvergrößerung und Kontrastanpassung