ExamAI – KI Testing & Auditing

Bereits heute ist absehbar, dass der Einsatz von Künstlicher Intelligenz (KI) erhebliche Auswirkungen auf die Arbeitswelt hat und in Zukunft haben wird. Die in der gesellschaftspolitischen Debatte um „KI-basierte Systeme” erhobenen Anforderungen – wie etwa Transparenz, Nachvollziehbarkeit, Fairness, Gleichbehandlung, Haftbarkeit, Zuverlässigkeit oder Datenschutz – sind unklar in Bezug auf ihre rechtliche und technische Ausgestaltung und geraten teilweise mit Interessen der sie entwickelnden Unternehmen in Konflikt.

Ziele und Vorgehen

Das Projekt verfolgt das Ziel, das Agieren von KI-Systemen nachvollziehbar, messbar und damit zertifizierbar zu machen. Dabei sollen konkrete Konzepte für das Auditing und die Zertifizierung von KI-Anwendungen entwickelt werden. Hierzu werden diejenigen technischen und rechtlichen Anforderungen ermittelt, die beim Einsatz von KI-Systemen zu beachten sind. Die Untersuchung erfolgt dabei anhand zweier typischer Anwendungsfelder für KI-Systeme.

KI in Produktionsprozessen

Ein Anwendungsszenario betrifft den Einsatz von KI-Systemen im Rahmen von Produktionsprozessen, etwa in Gestalt kollaborierender Roboter („Cobots“) und fahrerlosen Transportsystemen (FTS). Im Fokus dieses Szenarios steht die sichere Ausgestaltung der Mensch-Maschine-Schnittstelle zur Schaffung einer sicheren Arbeitsumgebung, hierneben werden auch Fragen der Produktsicherheit untersucht. Durch die Entwicklung von Test- und Zertifizierungsverfahren können Risiken minimiert und Vertrauen und Rechtssicherheit für den Einsatz von KI geschaffen werden.

KI bei Personalentscheidungen

Das zweite Anwendungsszenario widmet sich den Risiken des Einsatzes KI-gestützter Systeme im Personalmanagement. Zertifizierungen sollen hier dazu beitragen, dass KI-Systeme im Rahmen der gesetzlichen Vorgaben diskriminierungsfrei arbeiten und die Entscheidungsvorschläge nachvollziehbar gestalten, um möglichen Haftungsrisiken vorzubeugen.

Gefördert vom