Laufzeit: September 2021 bis Februar 2023
Digitale Technologien von Künstlicher Intelligenz und Machine Learning werfen vielfältige normative Fragen auf, die von der Projektgruppe Normordnung Künstlicher Intelligenz (NOKI) erforscht wurden. Die Projektgruppe untersuchte im Schnittfeld von Recht, Ethik, Technologie und Markt effektive Durchsetzungsmechanismen und unterbreitete Lösungsansätze. Im Besonderen ist in diesem Zusammenhang auf eine Handreichung zur forschungsethischen Begutachtung von KI-Forschungsprojekten der Arbeitsgemeinschaft „Forschungsethik KI“ hinzuweisen.
Ein weiterer Fokus der Projektgruppe lag auf der Untersuchung algorithmenbasierter Diskriminierung. Anhand einer Studie wurde analysiert, welche Kriterien dazu führen, dass Nutzer:innen die Entscheidung von künstlich intelligenten Systemen als „nicht-diskriminierend“ bewerten. Dabei wurden die Bedeutung von Zertifizierungsmechanismen, Fairnesskriterien und die Transparenz des Systems untersucht.
Einen Schwerpunkt der Forschungstätigkeit bildete außerdem die Zertifizierung und die unterschiedlichen Möglichkeiten der Qualitätsbewertung von Künstlicher Intelligenz. Vor diesem Hintergrund wurde mit Blick auf den Finanzsektor die praktische Durchsetzung von normativen Konzepten wie Risiko und Verantwortung anhand einer Fallstudie zu so genannten Roboadvisors erforscht, und im Bereich des Gesundheitssektors die zu zertifizierenden Anforderungen erarbeitet.
Hervorzuheben sind insgesamt die von der Projektgruppe organisierten Workshops, die nicht nur einen interdisziplinären, ergiebigen Austausch unter Beteiligung von Wissenschaft, Anwenderseite sowie Politik ermöglichten, sondern ebenso eine Reihe hochrangiger Fachpublikationen in den beteiligten Disziplinen.
Beteiligte Wissenschaftler:innen
Prof. Dr. Florian Möslein, LL. M. (London), Philipps-Universität Marburg | Sprecher | mehr Information»
Prof. Dr. Anne Riechert, Frankfurt University of Applied Sciences | stellvertretende Sprecherin | mehr Information»
Prof. Dr. Johannes Buchheim, LL. M. (Yale), Philipps-Universität Marburg | mehr Information»
Prof. Dr. Petra Gehring, Technische Universität Darmstadt | mehr Information»
Prof. Dr. em. Christoph Hubig, Technische Universität Darmstadt | mehr Information»
Prof. Dr. Martina Klausner, Goethe-Universität Frankfurt a. M. | mehr Information»
Prof. Sebastian Köhler, Ph.D., Frankfurt School of Finance & Management | mehr Information»
Prof. Dr. Katja Langenbucher, Goethe-Universität Frankfurt a. M. | mehr Information»
Prof. Dr. Sebastian Omlor, LL. M. (NYU), LL.M. Eur., Philipps-Universität Marburg | mehr Information»
Prof. Dr. Jella Pfeiffer, Justus-Liebig-Universität Gießen | mehr Information»
Prof. Gregory Wheeler, Ph.D., Frankfurt School of Finance & Management | mehr Information»
Prof. Dott. em. Roberto V. Zicari, Goethe-Universität Frankfurt a. M. | mehr Information»
Zur forschungsethischen Begutachtung von KI-Forschungsprojekten
Handreichung | 2. November 2022
Forschungsethische Begutachtung von Forschungsprojekten ist in der Wissenschaft üblich und wird auch an Hochschulen durch Ethikkommissionen geleistet. Im Bereich der sogenannten Künstlichen Intelligenz haben Forschungen vieler Disziplinen eine veränderte Eingriffstiefe gewonnen. Die potenzielle Reichweite von Technikfolgen, aber auch die Ethik des Forschungsprozesses selbst (Versuchspersonen, Datenschutz, Qualitätssicherung) ist in der KI-Forschung und in der Forschung mit KI groß.
Vor diesem Hintergrund bietet die Handreichung Ethikkommissionen an Hochschulen eine Unterstützung ihrer Arbeit.
„Wie reguliert man künstliche Intelligenz?“
Jurafuchs Podcast Folge 22 mit Prof. Dr. Florian Möslein
Welche rechtlichen Probleme entstehen beim Einsatz Künstlicher Intelligenz? Welche Vorschläge zur Regulierung von KI macht die EU? Können Unternehmen rechtlich gehalten sein, KI einzusetzen? Im Podcast der Lernplattform Jurafuchs spricht Prof. Dr. Florian Möslein über rechtliche Herausforderungen und Rahmenbedingungen bei Einsatz und Entwicklung Künstlicher Intelligenz.
Veranstaltungen
AI Act im Datenraum
Workshop am 2. März 2023 | zum Workshop»
Robo Advisory & Crypto Investments: Case Studies and Critical Reflections
Workshop am 7. November 2022 | zum Workshop»
Qualität künstlicher Intelligenz: Bewertung, Sicherung, Anwendungsbeispiele
Interdisziplinäre Tagung am 7. Juli 2022 | zur Tagung»
Bericht in der Zeitschrift MMR – Zeitschrift für IT-Recht und das Recht der Digitalisierung | zum Tagungsbericht»
Bericht in der Zeitschrift ZBB – Zeitschrift für Bankrecht und Bankwirtschaft | zum Tagungsbericht»
Bericht in der Zeitschrift JurPC – Internet-Zeitschrift für Rechtsinformatik und Informationsrecht | zum Tagungsbericht»
KI-Forschungsethik
Workshop am 22. Juni 2022 | zum Workshop»
The Philosophy of Data Science: Data Science Governance
Konferenz am 10. & 11. Juni 2022 | zur Konferenz»
Regelwerke rund um Künstliche Intelligenz
Workshop am 18. Februar 2022 | zum Workshop»
