Explainable Intelligent Systems (EIS)
© Universität des SaarlandesMit zunehmender Automatisierung von Prozessen in nahezu allen Lebensbereichen finden Intelligente Systeme, oft als Expertensysteme, immer mehr Einsatz bei der Unterstützung von (vom Menschen getroffenen) Entscheidungen. Die Forschung zum Projekt „Erklärbarkeit intelligenter Systeme“ (EIS) hat das Ziel, intelligente Systeme so zu gestalten, dass sie Entscheider darin unterstützen, verantwortungsvoll und wohlinformiert zu entscheiden. Das Projekt ist Teil der VolkswagenStiftungs-Initiative „Künstliche Intelligenz – Ihre Auswirkungen auf die Gesellschaft von morgen“.
Erklärbarkeit und Transparenz als Kernanforderung für den Einsatz von Intelligenten Systemen
Von zahlreichen Expertengruppen werden Transparenz und Erklärbarkeit von intelligenten Systemen als Kernanforderung für deren Einsatz formuliert. Dies basiert auf der Prämisse, dass ein System nur dann vertrauenswürdig ist, wenn seine Entscheidungen nachvollziehbar ("erklärbar") sind.
Rechtliche Umsetzung von Erklärbarkeit
Bislang ist unklar, wie die allgemeine Forderung nach Transparenz und Erklärbarkeit insbesondere rechtlich und technisch umgesetzt werden kann. Erklärbarkeit ist kein etablierter Rechtsbegriff, rechtliche Anforderungen an die Begründung und Erklärung von Entscheidungen sind im geltenden Recht in ganz unterschiedlichen Ausprägungen anzutreffen. Ob und wie ggf. ein gesamtheitliches Konzept für die Sicherstellung von Erklärbarkeit maschinengestützter Entscheidungen aussehen könnte oder ob die Anforderungen an Erklärbarkeit weiterhin einer kontextabhängigen Konkretisierung bedürfen, wird im Projekt "EIS" untersucht.
Bearbeitet werden diese Fragestellungen durch ein interdisziplinäres Team der Universität des Saarlandes, bestehend aus Wissenschaftlern der Philosophie, der Informatik, der Psychologie und der Rechtsinformatik. Bereits zum zweiten Mal hat das Institut für Rechtsinformatik von der VolkswagenStiftung einen Zuschlag erhalten. Nach einer ersten Förderung von neun Monaten schloss sich 2020 eine zweite Förderung für einen Zeitraum von drei Jahren an, die bis April 2025 verlängert wurde.
Projektbeteiligte
- Lehrstuhl für Bürgerliches Recht, Rechtsinformatik, deutsches und internationales Wirtschaftsrecht sowie Rechtstheorie – Prof. Dr. Georg Borges
- Prof. Dr. Holger Hermanns (Informatik), UdS Saarbrücken
- Prof. Dr. Cornelius König (Psychologie), UdS Saarbrücken
- Prof. Dr. Eva Schmidt (Philosophie), TU Dortmund
- Prof. Dr. Ulla Wessels (Philosophie), UdS Saarbrücken
Ansprechpartner
Wiss. Mit. Dr. Afolabi O. Adekemi (Mail)
Wiss. Mit. PD Dr. Bernd Scholl (Mail)
Projektlaufzeit
März 2019 – April 2025
Weitere Informationen
Wir stellen ein!
Das Institut für Rechtsinformatik sucht Wissenschaftliche Mitarbeiter.
Bewerben Sie sich jetzt!
Infos unter: www.it-recht-karriere.de
Explainable Intelligent Systems
Im Projekt »EIS« arbeitet das Team um Prof. Borges an der Frage, wie die Forderung nach Transparenz und Erklärbarkeit intelligenter Systeme rechtlich und technisch umgesetzt werden kann.
Recht-Testbed
Der Lehrstuhl von Professor Borges hat im BMWK-Projekt »Recht-Testbed Industrie 4.0« Lösungsansätze erarbeitet für die Industrie 4.0.