Laufzeit: November 2022 bis April 2024
Das Projekt „Responsible Algorithmic Decision-Making in the Workplace“ widmete sich der Untersuchung und Förderung des verantwortungsvollen Einsatzes algorithmischer Systeme in der Arbeitswelt. Der Fokus lag dabei auf modernen algorithmischen Systemen, insbesondere generativer und analytischer Künstlicher Intelligenz, die in vielen Unternehmen Einzug halten. Unsere Forschung zeigte, dass generative Künstliche Intelligenz die Produktivität und Qualität der Arbeit in verschiedenen Arbeitskontexten und Mensch-Maschine-Konfigurationen erheblich steigern kann. Gleichzeitig wurden jedoch erhebliche Risiken wie Exklusion, Benachteiligung und Überforderung der Arbeitskräfte festgestellt. Die erfolgreiche Integration algorithmischer Systeme in Arbeitsprozesse ist daher eine soziotechnische Herausforderung, die eine interdisziplinäre Herangehensweise erfordert. Ein weiterer zentraler Aspekt ist hierbei die Bekämpfung von „Datenbias“, um die Reproduktion gesellschaftlicher Vorurteile zu verhindern. Dies erfordert die systematische Überprüfung (und ggf. Korrektur) von Trainingsdaten-Entstehungsprozessen sowie die Entwicklung robuster Metriken zur Bewertung der generierten Inhalte.
Ein weiteres Ergebnis zeigte, dass die Einführung von KI-Systemen die Arbeitskomplexität erhöhen kann, was eine präzise Neugestaltung der Arbeitsprozesse und oft ein „Reskilling“ der Arbeitskräfte erfordert. Menschliche Entscheidungs- und Verantwortungskompetenz muss beim Einsatz von KI-Systemen stets gewahrt bleiben. KI sollte als unterstützendes Werkzeug dienen und nicht die vollständige Entscheidungsfindung übernehmen. Rechtliche Aspekte wie das Recht auf informationelle Selbstbestimmung und der Schutz weiterer Grundrechte, verankert in der Datenschutz-Grundverordnung (DSGVO) und auch dem EU AI Act, setzen dabei wichtige Rahmenbedingungen, die in vielen Bereichen weiter spezifiziert werden müssen. Gerade der im Mai 2024 final beschlossene EU AI Act weist eine Vielzahl unbestimmter Rechtsbegriffe auf, die zumindest zum Teil noch einer Konkretisierung durch die EU-Kommission bzw. durch das AI Office (insb. in Leitlinien) bedürfen. Zudem wird das geschaffene Regelkonzept mit EU-Verordnungsvorgaben und harmonisierten technischen Standards durch ein Aufsichtssystem flankiert, das erst noch etabliert werden muss.
Die Projektgruppe erarbeitete diese Ergebnisse in mehreren hochschul- und disziplinübergreifenden Arbeitsgruppen sowie durch die Durchführung verschiedener Veranstaltungen unter Einbindung von Industrieunternehmen, Verbänden und Gewerkschaften. Die Ergebnisse sind unter anderem in einem erscheinenden interdisziplinären Diskussionspapier zusammengefasst worden.
Beteiligte Wissenschaftler:innen
Prof. Dr. Alexander Benlian, Technische Universität Darmstadt | Sprecher | mehr Information
Prof. Dr. Matthias Söllner, Universität Kassel | stellvertretender Sprecher | mehr Information
Dr. Ulrich Bretschneider, Universität Kassel | mehr Information
Prof. Dr. Lucie Flek, Philipps-Universität Marburg | mehr Information
Prof. Dr. Iryna Gurevych, Technische Universität Darmstadt | mehr Information
Prof. Dr. Sandra Ohly, Universität Kassel | mehr Information
Prof. Dr. Lena Rudkowski, Justus-Liebig-Universität Gießen | mehr Information
Prof. Dr. Gerhard Schreiber, Technische Universität Darmstadt | mehr Information
Prof. Dr. Bernd Skiera, Goethe-Universität Frankfurt a. M. | mehr Information
Prof. Dr. Domenik H. Wendt, LL.M., Frankfurt University of Applied Sciences | mehr Information
Interdisziplinäre Vortragsreihe
Die Arbeitswelt ist bereits heute von algorithmischer Entscheidungsfindung („Algorithmic Decision-Making“, ADM) geprägt, z. B. in Mitarbeiter-Rekrutierungsprozessen, bei der Steuerung von Arbeitskräften im Arbeitsalltag oder in der Unterstützung von menschlichen Entscheidungsträgern bei komplexen Fragestellungen.
Vor diesem Hintergrund organisierte die Projektgruppe Verantwortungsbewusste algorithmische Entscheidungsfindung in der Arbeitswelt eine Vortragsreihe, die diese Entwicklungen aus interdisziplinärer und internationaler Perspektive in den Blick nahm. Es ging u. a. um die folgenden Fragen: Wie müssen durch ADM geprägte Arbeitskontexte ausgestaltet werden, um einen verantwortungsbewussten Umgang mit Arbeitskräften zu befördern? Welche technischen, organisatorischen und regulatorischen Rahmenbedingungen sollten dabei gesetzt werden?
Wintersemester 2023/24
Sommersemester 2023
Wintersemester 2022/23
ChatGPT and Beyond: Exploring the Responsible Use
of Generative AI in the Workplace
Diskussionspapier | Februar 2025
Dieses als Open Access-Titel im Business & Information Systems Engineering (BISE) Journal veröffentlichte Diskussionspapier ist ein Ergebnis der ZEVEDI-Projektgruppe Verantwortungsbewusste algorithmische Entscheidungsfindung in der Arbeitswelt, das Fachwissen aus den Bereichen Informationssysteme, Wirtschaftspsychologie, Informatik, Recht, Marketing und Technologieethik vereint
Zurückliegende Veranstaltungen
KI in der Arbeitswelt: Wie können KI und generative KI im Unternehmensalltag unterstützen?
Interdisziplinärer Workshop, 26. März 2024 | zur Veranstaltung
ChatGPT and Beyond:
Auswirkungen generativer KI auf Arbeit und Beschäftigung
Interdisziplinäre Tagung, 8. Dezember 2023 | zur Veranstaltung
Interdisziplinäre Perspektiven auf eine verantwortungsbewusste algorithmische Entscheidungsfindung in der Arbeitswelt
Auftaktworkshop am 27. März 2023 | zum Workshop
