Laufzeit: September 2021 bis Februar 2023
Digitale Technologien von Künstlicher Intelligenz und Machine Learning werfen vielfältige normative Fragen auf, die von der Projektgruppe Normordnung Künstlicher Intelligenz (NOKI) erforscht wurden. Die Projektgruppe untersuchte im Schnittfeld von Recht, Ethik, Technologie und Markt effektive Durchsetzungsmechanismen und unterbreitete Lösungsansätze. Im Besonderen ist in diesem Zusammenhang auf eine Handreichung zur forschungsethischen Begutachtung von KI-Forschungsprojekten der Arbeitsgemeinschaft „Forschungsethik KI“ hinzuweisen.
Ein weiterer Fokus der Projektgruppe lag auf der Untersuchung algorithmenbasierter Diskriminierung. Anhand einer Studie wurde analysiert, welche Kriterien dazu führen, dass Nutzer:innen die Entscheidung von künstlich intelligenten Systemen als „nicht-diskriminierend“ bewerten. Dabei wurden die Bedeutung von Zertifizierungsmechanismen, Fairnesskriterien und die Transparenz des Systems untersucht.
Einen Schwerpunkt der Forschungstätigkeit bildete außerdem die Zertifizierung und die unterschiedlichen Möglichkeiten der Qualitätsbewertung von Künstlicher Intelligenz. Vor diesem Hintergrund wurde mit Blick auf den Finanzsektor die praktische Durchsetzung von normativen Konzepten wie Risiko und Verantwortung anhand einer Fallstudie zu so genannten Roboadvisors erforscht, und im Bereich des Gesundheitssektors die zu zertifizierenden Anforderungen erarbeitet.
Hervorzuheben sind insgesamt die von der Projektgruppe organisierten Workshops, die nicht nur einen interdisziplinären, ergiebigen Austausch unter Beteiligung von Wissenschaft, Anwenderseite sowie Politik ermöglichten, sondern ebenso eine Reihe hochrangiger Fachpublikationen in den beteiligten Disziplinen.
Beteiligte Wissenschaftler:innen
Prof. Dr. Florian Möslein, LL.M. (London), Philipps-Universität Marburg | Sprecher | mehr Information
Prof. Dr. Anne Riechert, Frankfurt University of Applied Sciences | stellvertretende Sprecherin | mehr Information
Prof. Dr. Johannes Buchheim, LL.M. (Yale), Philipps-Universität Marburg | mehr Information
Prof. Dr. Petra Gehring, Technische Universität Darmstadt | mehr Information
Prof. Dr. em. Christoph Hubig, Technische Universität Darmstadt | mehr Information
Prof. Dr. Martina Klausner, Goethe-Universität Frankfurt a. M. | mehr Information
Prof. Sebastian Köhler, Ph.D., Frankfurt School of Finance & Management | mehr Information
Prof. Dr. Katja Langenbucher, Goethe-Universität Frankfurt a. M. | mehr Information
Prof. Dr. Sebastian Omlor, LL.M. (NYU), LL.M. Eur., Philipps-Universität Marburg | mehr Information
Prof. Dr. Jella Pfeiffer, Justus-Liebig-Universität Gießen | mehr Information
Prof. Gregory Wheeler, Ph.D., Frankfurt School of Finance & Management | mehr Information
Prof. Dott. em. Roberto V. Zicari, Goethe-Universität Frankfurt a. M. | mehr Information
Herausforderungen durch KI für die Arbeit von Forschungsethikkommissionen
Visual Memo | 13. Mai 2025 |
DOI 10.71814/9bny-an55
Wie verändert Künstliche Intelligenz die Arbeit von Forschungsethikkommissionen? Dieser Frage widmete sich das Symposium „KI@Forschungsethik“ vom 7. bis 9. August 2024 in Hannover – gefördert von der VolkswagenStiftung und organisiert von Andreas Brenneis und Petra Gehring (TU Darmstadt).
Im Mittelpunkt standen reale und abstrahierte Fallbeispiele, die die besonderen ethischen Herausforderungen bei der Bewertung von Forschung an und mit KI deutlich machten. Die Diskussionen wurden visuell von Matthias Seifert begleitet. Auf Basis seiner Zeichnungen wurde ein Visual Memo erstellt, das zentrale Themen und Einsichten des Symposiums anschaulich zusammenfasst.
Link zum Visual MemoPodiumsdiskussion zum Symposium Herausforderungen durch KI für die Arbeit von Forschungsethik-Kommissionen
Video der Podiumsdiskussion zum Symposium: Herausforderungen durch KI für die Arbeit von Forschungsethik-Kommissionen im Rahmen der Themenwoche Wissenschaftsethik: Ethische Dimensionen von KI-Forschung und KI in der Forschung vom 7– 9. August 2024 im Schloss Herrenhausen in Hannover.
Zur forschungsethischen Begutachtung von KI-Forschungsprojekten
Handreichung | 2. November 2022
Forschungsethische Begutachtung von Forschungsprojekten ist in der Wissenschaft üblich und wird auch an Hochschulen durch Ethikkommissionen geleistet. Im Bereich der sogenannten Künstlichen Intelligenz haben Forschungen vieler Disziplinen eine veränderte Eingriffstiefe gewonnen. Die potenzielle Reichweite von Technikfolgen, aber auch die Ethik des Forschungsprozesses selbst (Versuchspersonen, Datenschutz, Qualitätssicherung) ist in der KI-Forschung und in der Forschung mit KI groß.
Vor diesem Hintergrund bietet die Handreichung Ethikkommissionen an Hochschulen eine Unterstützung ihrer Arbeit.
„Wie reguliert man künstliche Intelligenz?“
Jurafuchs Podcast Folge 22 mit Prof. Dr. Florian Möslein
Welche rechtlichen Probleme entstehen beim Einsatz Künstlicher Intelligenz? Welche Vorschläge zur Regulierung von KI macht die EU? Können Unternehmen rechtlich gehalten sein, KI einzusetzen? Im Podcast der Lernplattform Jurafuchs spricht Prof. Dr. Florian Möslein über rechtliche Herausforderungen und Rahmenbedingungen bei Einsatz und Entwicklung Künstlicher Intelligenz.
Zurückliegende Veranstaltungen
Fachdialog: Auswirkungen des EU AI Act auf die Banken- und Finanzbranche
Interdisziplinärer Workshop am 20. November 2023 | zum Workshop
AI Act im Datenraum
Workshop am 2. März 2023 | zum Workshop
Robo Advisory & Crypto Investments: Case Studies and Critical Reflections
Workshop am 7. November 2022 | zum Workshop
Qualität künstlicher Intelligenz: Bewertung, Sicherung, Anwendungsbeispiele
Interdisziplinäre Tagung am 7. Juli 2022 | zur Tagung
Bericht in der Zeitschrift MMR – Zeitschrift für IT-Recht und das Recht der Digitalisierung | zum Tagungsbericht
Bericht in der Zeitschrift ZBB – Zeitschrift für Bankrecht und Bankwirtschaft | zum Tagungsbericht
Bericht in der Zeitschrift JurPC – Internet-Zeitschrift für Rechtsinformatik und Informationsrecht | zum Tagungsbericht
KI-Forschungsethik
Workshop am 22. Juni 2022 | zum Workshop
The Philosophy of Data Science: Data Science Governance
Konferenz am 10. & 11. Juni 2022 | zur Konferenz
Regelwerke rund um Künstliche Intelligenz
Workshop am 18. Februar 2022 | zum Workshop
