Mit zunehmender Automatisierung von Prozessen in nahezu allen Lebensbereichen finden Intelligente Systeme, oft als Expertensysteme, immer mehr Einsatz bei der Unterstützung von (vom Menschen getroffenen) Entscheidungen. Die Forschung zum Projekt „Erklärbarkeit intelligenter Systeme“ (EIS) hat das Ziel, intelligente Systeme so zu gestalten, dass sie Entscheider darin unterstützen, verantwortungsvoll und wohlinformiert zu entscheiden. Das Projekt ist Teil der VolkswagenStiftungs-Initiative „Künstliche Intelligenz – Ihre Auswirkungen auf die Gesellschaft von morgen“.

Erklärbarkeit und Transparenz als Kernanforderung für den Einsatz von Intelligenten Systemen

Von zahlreichen Expertengruppen werden Transparenz und Erklärbarkeit von intelligenten Systemen als Kernanforderung für deren Einsatz formuliert. Dies basiert auf der Prämisse, dass ein System nur dann vertrauenswürdig ist, wenn seine Entscheidungen nachvollziehbar ("erklärbar") sind.

Rechtliche Umsetzung von Erklärbarkeit

Bislang ist unklar, wie die allgemeine Forderung nach Transparenz und Erklärbarkeit insbesondere rechtlich und technisch umgesetzt werden kann. Erklärbarkeit ist kein etablierter Rechtsbegriff, rechtliche Anforderungen an die Begründung und Erklärung von Entscheidungen sind im geltenden Recht in ganz unterschiedlichen Ausprägungen anzutreffen. Ob und wie ggf. ein gesamtheitliches Konzept für die Sicherstellung von Erklärbarkeit maschinengestützter Entscheidungen aussehen könnte oder ob die Anforderungen an Erklärbarkeit weiterhin einer kontextabhängigen Konkretisierung bedürfen, wird im Projekt "EIS" untersucht.

Bearbeitet werden diese Fragestellungen durch ein interdisziplinäres Team der Universität des Saarlandes, bestehend aus Wissenschaftlern der Philosophie, der Informatik, der Psychologie und der Rechtsinformatik. Bereits zum zweiten Mal hat das Institut für Rechtsinformatik von der VolkswagenStiftung einen Zuschlag erhalten. Nach einer ersten Förderung von neun Monaten schloss sich 2020 eine zweite Förderung für einen Zeitraum von drei Jahren an.