Accountable Artificial Intelligence-based Systems: Eine Multi-Perspektivische Analyse (AAIS)

• Antragsteller: Professor Dr. Alexander Benlian; Professor Dr. Ali Sunyaev
• Fachliche Zuordnung: Operations Management und BWL-spezifische Wirtschaftsinformatik
• Förderung: Förderung seit 2021
• Projektkennung: Deutsche Forschungsgemeinschaft (DFG) - Projektnummer 471168026

Die Ergebnisse des ersten Antrags („Accountable Artificial Intelligence-based Systems: Eine Multi-Perspektivische Analyse“) zeigten, dass (1) die Implementierung von Accountability-Mechanismen in die Benutzerschnittstelle eines Accountable AI-basierten Informationssystems (AAIS) die Wahrnehmung von Accountability (d.h. Zurechenbarkeit) und die Intention der Benutzer, den Ratschlägen zu folgen, erhöht; (2) AI-Entwickler sich selbst eine höhere Accountability zuschreiben, als sie ihnen von anderen zugeschrieben wahrnehmen; und (3) dies zu Unklarheiten bezüglich ihrer Verantwortlichkeiten und letztlich zu einer geringeren Arbeitszufriedenheit führt. Vor dem Hintergrund der Ergebnisse des ersten Antrags hat sich gezeigt, dass es an gesicherten Erkenntnissen und Erklärungsmodellen zu weiteren Einflussfaktoren auf die Wahrnehmung möglicher Accountability mangelt. Insbesondere das aus der Wahrnehmung resultierende Verhalten der beteiligten AI Akteure bleibt bislang unklar. Neben den Entwicklern von AAIS werden auch die Betreiber der AAIS durch die Interaktion mit AAIS und anderen Akteuren beeinflusst. Diese Wahrnehmungen können sowohl zugunsten als auch entgegen der Nutzung von AAIS sein und müssen zwischen verschiedenen AAIS-Akteuren nicht kongruent sein. Als Folge dieser Wahrnehmungen können bestimmte Bewältigungsverhaltensweisen der Akteure auftreten (z.B. aufgabenorientiert, gefühlsorientiert, vermeidungsorientiert). Daraus ergeben sich drei Forschungsfragen, die auf den Arbeiten der Antragsteller aufbauen: (1) „Wie wirkt sich Accountability auf die Wahrnehmung von AAIS-Akteuren aus?“, (2) „Wie wirkt sich eine (In-)Kongruenz in der Accountability-Wahrnehmung von AAIS-Akteuren auf deren Einstellungen und Reaktionen aus?“ und (3) „Wie wirkt sich Accountability auf das Verhalten von AAIS-Akteuren aus?“. Zur Beantwortung der ersten Forschungsfrage ist geplant, dass Erklärungsmodelle zur Wirkung von Accountability-Mechanismen auf die Wahrnehmung von Architekten und Betreibern entwickelt und empirisch überprüft werden. Die zweite Forschungsfrage soll durch die Untersuchung möglicher (In-)Kongruenzen zwischen AAIS-Akteuren beantwortet werden. Die Ergebnisse der ersten beiden Untersuchungen ermöglichen somit ein vertieftes Verständnis wichtiger Wahrnehmungsprozesse einzelner und zwischen verschiedenen AAIS-Akteuren. Zur Beantwortung der dritten Forschungsfrage sollen zwei Studien in Zusammenarbeit mit AI-Unternehmen durchgeführt werden: Zum einen soll in einem Feldexperiment untersucht werden, wie verschiedene AAIS-Designs in Benutzerschnittstellen das Nutzerverhalten in einer realen Umgebung beeinflussen. In einer zweiten, qualitativ ausgerichteten Studie soll untersucht werden, wie sich das Verhalten von Architekten durch zugewiesene Accountability ändert. Insgesamt leisten wir durch die Beantwortung der drei Forschungsfragen einen wichtigen und zeitgemäßen Beitrag zu einem besseren Verständnis und Einsatz von AAIS.

• DFG-Verfahren: Sachbeihilfen
• Mitverantwortliche: Dr. Martin Adam; Dr. Sebastian Lins