Potenziale der Zertifizierung von KI-Systemen bei der Regulierung von Künstlicher Intelligenz

• Antragsteller: Professor Dr. Georg Borges; Professor Dr.-Ing. Holger Hermanns
• Fachliche Zuordnung: Grundlagen des Rechts und der Rechtswissenschaft ; Öffentliches Recht
• Förderung: Förderung seit 2025
• Projektkennung: Deutsche Forschungsgemeinschaft (DFG) - Projektnummer 547583482

Das Projekt soll rechtliche Grundlagen der Zertifizierung von KI-Systemen auf der Grundlage interdisziplinärer und rechtsvergleichender Arbeiten klären. Die Methoden der künstlichen Intelligenz, insbesondere das maschinelle Lernen, bergen enorme Chancen für Fortschritt und Wohlstand. Der Einsatz der durch maschinelles Lernen entwickelten KI-Systeme birgt jedoch auch Risiken, die eines angemessenen Risikomanagements und eines entsprechenden rechtlichen Rahmens bedürfen. Ein wesentliches Element des Risikomanagements für KI-Systeme sind Konformitätsprüfungen und Zertifizierungen. Aktuelle Gesetzesvorschläge, namentlich der europäische AI Act und der brasilianische Entwurf eines AI Acts, verlangen ausdrücklich die Zertifizierung von KI-Systemen. Von noch größerem Interesse sind freiwillige Zertifizierungen, die rechtliche oder ökonomische Vorteile bieten können. Die rechtliche Bedeutung und der Rechtsrahmen solcher Zertifizierungen sind jedoch noch weitgehend unklar. Zertifizierungen können ganz unterschiedliche rechtliche Bedeutung haben, etwa Voraussetzung für den Marktzugang sein, aber auch andere rechtliche Vorteile bringe, etwa zur Vermeidung von Haftung. Auch die Voraussetzungen für die Ausgestaltung von Zertifizierungsverfahren divergieren stark. Das europäische KI-Gesetz differenziert etwa zwischen Selbstzertifizierung und Zertifizierung durch Dritte. Die Zertifizierung von KI-Systemen kann, je nach Ausgestaltung, organisatorisch und finanziell sehr aufwendig sein. Eine Beschränkung auf das notwendige Maß (etwa Prüfungsumfang und -intensität) ist eine Schlüsselvoraussetzung für eine erfolgreiche Regulierung von Zertifizierung für KI. Angesichts der ungeheuren Diversität von Zertifizierungen stellt sich die im Zentrum des Projekts stehende Frage, welche Art und Ausgestaltung von Zertifizierungen für die Zwecke der jeweiligen rechtlichen Regelung, die auf Zertifizierungen verweist oder ihr Bedeutung beimisst, angemessen ist. Das Projekt analysiert anhand des bisherigen Rechts und der aktuellen Gesetzesvorhaben (KI-Gesetz) die rechtliche Bedeutung der Zertifizierung sowohl bei ausdrücklicher Bezugnahme als auch bei "impliziter" Bezugnahme (Relevanz der Zertifizierung), die etwa im Haftungsrecht relevant ist. Ebenso werden, durch Analyse maßgeblicher rechtlicher Regeln, die allgemeinen Elemente der Zertifizierung herausgearbeitet. Die zum deutschen und europäischen Recht erarbeiteten Ergebnisse werden mit den Ergebnissen des Schwesterprojekts zum brasilianischen Recht verglichen und aus ihnen allgemeine Grundlagen der rechtlichen Bedeutung abgeleitet. Dazu werden im technischen Teil des Projekts aktuelle Ansätze zur Konformitätsprüfung und Zertifizierung von KI-Systemen analysiert und in Bezug auf ihre Eignung für rechtliche Zwecke evaluiert. Auf dieser Grundlage werden sodann Vorschläge für eine effiziente Zertifizierung von KI-Systemen entwickelt, die einen wesentlichen Beitrag für Risikobegrenzung und Rechtssicherheit leisten kann.

• DFG-Verfahren: Sachbeihilfen
• Internationaler Bezug: Brasilien
• Partnerorganisation: Coordenação de Aperfeiçoamento de Pessoal de Nível Superior; (CAPES); Setor bancario Norte
• Kooperationspartnerinnen / Kooperationspartner: Professor Dr. Floriano Azevedo Marques Neto; Professor Juliano Souza de Albuquerque Maranhao, Ph.D.; Professorin Dr. Renata Wassermann