Curriculum-lernen in natürlichsprachlicher Generierung

• Antragstellerin: Professorin Dr. Milica Gasic
• Fachliche Zuordnung: Bild- und Sprachverarbeitung, Computergraphik und Visualisierung, Human Computer Interaction, Ubiquitous und Wearable Computing
• Förderung: Förderung seit 2024
• Projektkennung: Deutsche Forschungsgemeinschaft (DFG) - Projektnummer 548039008

Das Erkennen von Halluzinationen und dem Entgegenwirken dieser sind zunehmend wichtige und dringliche Themen im Bereich der natürlichen Sprachverarbeitung, da große Sprachmodelle von Millionen von Nutzern weltweit verwendet werden und diese sich auf sie verlassen. Das Ziel dieses Projekts ist es, die Ursachen von Halluzinationen besser zu verstehen und schlussendlich deren Ausmaß und Schweregrad in der Ausgabe von Texterzeugungs-Modellen zu reduzieren. Dieses Projekt beabsichtigt, das Problem der Halluzinationen durch die Einbeziehung von durch menschliches Lernen inspirierter Mechanismen im Ansatz des Curriculum-Lernens zu lösen. Die zentrale Hypothese dieses Projekts ist, dass eine mögliche Ursache für Halluzinationen darin besteht, dass alle Daten auf einmal gelernt werden und dadurch bereits Assoziationen entstehen, obwohl die Relevanz bestimmter Eingaben noch nicht offensichtlich ist.

• DFG-Verfahren: Sachbeihilfen