CARAT - Potentials of AI Certification as a Regulatory Instrument

Das Projekt CARAT untersucht, wie Zertifizierungen als zentrales regulatorisches Instrument zur Steuerung von Risiken und zur Gewährleistung der Vertrauenswürdigkeit von Systemen der Künstlichen Intelligenz (KI) genutzt werden können. Dabei wird analysiert, inwiefern effektive Zertifizierungsprozesse entscheidend dazu beitragen können, Risiken wie Diskriminierung, mangelnde Transparenz, Verletzungen des Datenschutzes, Sicherheitsprobleme sowie ethische Herausforderungen zu minimieren. Übergeordnetes Ziel ist die Entwicklung eines umfassenden rechtlichen und technischen Rahmens, der Compliance, Innovationsfähigkeit sowie eine internationale Harmonisierung der Standards zur KI-Regulierung fördert.

Das interdisziplinäre Projekt ist Teil einer deutsch-brasilianischen Kooperation mit der Universität Sao Paulo. Es wird auf deutscher Seite von der Deutschen Forschungsgemeinschaft (DFG), auf brasilianischer Seite von der Brazilian Federal Agency for Support and Evaluation of Graduate Education (CAPES) gefördert. Seitens der Universität des Saarlandes sind der Lehrstuhl von Prof. Dr. Georg Borges sowie der Lehrstuhl von Prof. Dr. Holger Hermanns beteiligt. Seitens der Universität Sao Paulo wird das Projekt von Prof. Dr. Juliano Souza de Albuquerque Maranhão geleitet.

CARAT führt detaillierte Analysen bestehender und neuer Zertifizierungsmethoden unter bedeutenden regulatorischen Rahmenbedingungen durch, insbesondere im Hinblick auf den europäischen AI Act sowie die Datenschutz-Grundverordnung (DSGVO). Durch die Untersuchung expliziter und impliziter Verweise auf KI-Zertifizierungen innerhalb dieser rechtlichen Regelungen identifiziert das Projekt, wie Zertifizierungen die Einhaltung von Gesetzen stärken und das öffentliche Vertrauen erhöhen können. Darüber hinaus erforscht CARAT innovative Zertifizierungsmodelle, die sowohl für freiwillige als auch für verpflichtende regulatorische Kontexte geeignet sind und zugleich Flexibilität sowie eine konsequente Einhaltung ethischer und rechtlicher Standards ermöglichen.

Die technische Forschung im Projekt CARAT ist auf die Identifikation und Bewertung modernster Methoden, bewährter Praktiken und internationaler Standards konzentriert, die für eine robuste KI-Testung und -Verifizierung erforderlich sind. Technische Herausforderungen, wie beispielsweise der sogenannte „Black-Box“-Effekt, bei dem interne Entscheidungsprozesse der KI-Systeme oft nicht nachvollziehbar sind, stehen dabei im Vordergrund und unterstreichen die Notwendigkeit umfangreicher externer Test- und Auditverfahren.

CARAT widmet sich insbesondere den folgenden Kernfragen:

• Welche rechtliche Bedeutung und praktischen Auswirkungen ergeben sich aus Zertifizierungen von KI-Systemen?

• Wie können regulatorische Rahmenbedingungen eine verantwortungsvolle und transparente Entwicklung und Nutzung von KI wirksam fördern?

• Welche technischen Standards und branchenspezifischen Kriterien sollten Zertifizierungssysteme enthalten, um globale Anwendbarkeit und Akzeptanz sicherzustellen?

• Lassen sich gemeinsame Zertifizierungsprinzipien zwischen Europa und Brasilien etablieren, und worin bestehen wesentliche Unterschiede?

Die erwarteten Ergebnisse von CARAT umfassen umfassende rechtliche Bewertungen, konkrete Vorschläge für freiwillige und verbindliche Zertifizierungsrahmen sowie klare technische Leitlinien zur Einhaltung rechtlicher Anforderungen. Die Projektergebnisse werden breit auf internationalen Symposien vorgestellt und in einer abschließenden umfassenden Publikation zusammengefasst, die sich an politische Entscheidungsträger, Branchenvertreter, akademische Forscher sowie die breite Öffentlichkeit richtet.