GRK 3012:  KEMAI - Wissensinfusion und -Extraktion für Erklärbare KI in der Medizin

• Fachliche Zuordnung: Informatik ; Medizin
• Förderung: Förderung seit 2025
• Webseite: Zur Homepage
• Projektkennung: Deutsche Forschungsgemeinschaft (DFG) - Projektnummer 520750254

Seit Jahrzehnten unterstützen computergestützte Methoden Radiologen und andere medizinische Experten mit Funktionen wie Segmentierung, Registrierung oder Quantifizierung. Im Gegensatz zu solchen Systemen, die eine Reihe grundlegender Funktionen zum Diagnoseprozess beitragen, streben Expertensysteme eine breitere Funktionalität bis zur gesamten Diagnose oder sogar der Behandlungsplanung. Durch die verwendete Wissensbasis können Expertensysteme Erklärungen für ihre Empfehlungen geben, allerdings ist die Erstellung der Wissensbasis oft ein enormer Aufwand. Moderne Deep-Learning-Systeme versprechen, diesen Nachteil anzugehen, da sie keine kuratierte Wissensbasis benötigen. Gleichzeitig ermöglichen solche Systeme neue Genauigkeiten, die bisher nicht vorstellbar waren. Lernende Systeme bringen jedoch ihre eigenen Herausforderungen mit sich. Es ist nicht nur so, dass die vom lernenden System getroffene Entscheidung teilweise erheblich von der Entscheidung eines medizinischen Experten abweichen kann, sondern auch, dass die Gründe für diese Entscheidung normalerweise nicht nachvollziehbar sind, da lernende Systeme nicht direkt erklärbar sind. Infolgedessen ist es für Ärzte, die mit den Systementscheidungen konfrontiert sind, schwierig, die Empfehlungen des Systems zu prüfen, ihnen zu vertrauen und sie gegenüber anderen Experten oder Patienten zu rechtfertigen. Leider konzentrieren sich die aktuelle Forschung und die daraus abgeleiteten medizinischen Systeme häufig eher auf die Vorhersagegenauigkeit als auf die Verständlichkeit und die Kommunikation der getroffenen Systementscheidungen. Daher wollen wir innerhalb dieses Graduiertenkollegs die Vorteile Wissens- und lern-basierter Systeme kombinieren, um nicht nur die Genauigkeit der medizinischen Diagnose auf dem neuesten Stand der Technik zu gewährleisten, sondern auch die erhaltenen Vorhersagen den Ärzten klar zu vermitteln, alles unter Berücksichtigung ethischer Implikationen im medizinischen Entscheidungsprozess. Darüber hinaus planen wir, durch die Integration des in medizinischen Richtlinien und anderen Dokumenten enthaltenen Wissens in lernende Systeme auch die Herausforderungen zu bewältigen, die mit Datenknappheit und einer Vielzahl an Features verbunden sind. Um auf unsere Ziele hinzuarbeiten, haben wir vier Themenbereiche für Promotionen identifiziert: Daten Augmentierung, Wissensinfusion in und Wissensextraktion aus lernenden Systemen, sowie Modellerklärung. In jedem dieser Bereiche wurden mehrere potenzielle Promotionsthemen zusammengestellt. Um die aufgeführten Herausforderungen zu bewältigen, kombinieren wir Kompetenzen aus Informatik, Medizin und Ethik, die von den teilnehmenden Forschern eingebracht werden, indem für jedes bearbeitete Promotionsthema interdisziplinäre Betreuungsteams gebildet werden.

• DFG-Verfahren: Graduiertenkollegs
• Antragstellende Institution: Universität Ulm
• Sprecher: Professor Dr. Timo Ropinski
• beteiligte Wissenschaftlerinnen / beteiligte Wissenschaftler: Professor Dr. Ambros Beer; Professor Dr. Meinrad Beer; Professor Dr. Daniel Alexander Braun; Professorin Dr. Birte Glimm; Professor Dr.-Ing. Michael Götz; Professorin Dr. Rebekka Hufendiek; Professor Dr. Hans A. Kestler; Dr. Catharina Lisson; Professor Dr. Heiko Neumann; Professor Dr. Ansgar Scherp; Professor Dr. Florian Steger; Dr. Ina Vernikouskaya