Verantwortungsbewusste algorithmische Entscheidungsfindung in der Arbeitswelt

Laufzeit: November 2022 bis April 2024

Das Projekt „Responsible Algorithmic Decision-Making in the Workplace“ widmete sich der Untersuchung und Förderung des verantwortungsvollen Einsatzes algorithmischer Systeme in der Arbeitswelt. Der Fokus lag dabei auf modernen algorithmischen Systemen, insbesondere generativer und analytischer Künstlicher Intelligenz, die in vielen Unternehmen Einzug halten. Unsere Forschung zeigte, dass generative Künstliche Intelligenz die Produktivität und Qualität der Arbeit in verschiedenen Arbeitskontexten und Mensch-Maschine-Konfigurationen erheblich steigern kann. Gleichzeitig wurden jedoch erhebliche Risiken wie Exklusion, Benachteiligung und Überforderung der Arbeitskräfte festgestellt. Die erfolgreiche Integration algorithmischer Systeme in Arbeitsprozesse ist daher eine soziotechnische Herausforderung, die eine interdisziplinäre Herangehensweise erfordert. Ein weiterer zentraler Aspekt ist hierbei die Bekämpfung von „Datenbias“, um die Reproduktion gesellschaftlicher Vorurteile zu verhindern. Dies erfordert die systematische Überprüfung (und ggf. Korrektur) von Trainingsdaten-Entstehungsprozessen sowie die Entwicklung robuster Metriken zur Bewertung der generierten Inhalte.

Ein weiteres Ergebnis zeigte, dass die Einführung von KI-Systemen die Arbeitskomplexität erhöhen kann, was eine präzise Neugestaltung der Arbeitsprozesse und oft ein „Reskilling“ der Arbeitskräfte erfordert. Menschliche Entscheidungs- und Verantwortungskompetenz muss beim Einsatz von KI-Systemen stets gewahrt bleiben. KI sollte als unterstützendes Werkzeug dienen und nicht die vollständige Entscheidungsfindung übernehmen. Rechtliche Aspekte wie das Recht auf informationelle Selbstbestimmung und der Schutz weiterer Grundrechte, verankert in der Datenschutz-Grundverordnung (DSGVO) und auch dem EU AI Act, setzen dabei wichtige Rahmenbedingungen, die in vielen Bereichen weiter spezifiziert werden müssen. Gerade der im Mai 2024 final beschlossene EU AI Act weist eine Vielzahl unbestimmter Rechtsbegriffe auf, die zumindest zum Teil noch einer Konkretisierung durch die EU-Kommission bzw. durch das AI Office (insb. in Leitlinien) bedürfen. Zudem wird das geschaffene Regelkonzept mit EU-Verordnungsvorgaben und harmonisierten technischen Standards durch ein Aufsichtssystem flankiert, das erst noch etabliert werden muss.

Die Projektgruppe erarbeitete diese Ergebnisse in mehreren hochschul- und disziplinübergreifenden Arbeitsgruppen sowie durch die Durchführung verschiedener Veranstaltungen unter Einbindung von Industrieunternehmen, Verbänden und Gewerkschaften. Die Ergebnisse sind unter anderem in einem erscheinenden interdisziplinären Diskussionspapier zusammengefasst worden.

Beteiligte Wissenschaftler:innen

Prof. Dr. Alexander Benlian, Technische Universität Darmstadt | Sprecher | mehr Information
Prof. Dr. Matthias Söllner, Universität Kassel | stellvertretender Sprecher | mehr Information

Dr. Ul­rich Bret­schnei­der, Universität Kassel | mehr Information
Prof. Dr. Lucie Flek, Philipps-Universität Marburg | mehr Information
Prof. Dr. Iryna Gurevych, Technische Universität Darmstadt | mehr Information
Prof. Dr. Sandra Ohly, Universität Kassel | mehr Information
Prof. Dr. Lena Rudkowski, Justus-Liebig-Universität Gießen | mehr Information
Prof. Dr. Gerhard Schreiber, Technische Universität Darmstadt | mehr Information
Prof. Dr. Bernd Skiera, Goethe-Universität Frankfurt a. M. | mehr Information
Prof. Dr. Domenik H. Wendt, LL.M., Frankfurt University of Applied Sciences | mehr Information

Interdisziplinäre Vortragsreihe

Die Arbeitswelt ist bereits heute von algorithmischer Entscheidungsfindung („Algorithmic Decision-Making“, ADM) geprägt, z. B. in Mitarbeiter-Rekrutierungsprozessen, bei der Steuerung von Arbeitskräften im Arbeitsalltag oder in der Unterstützung von menschlichen Entscheidungsträgern bei komplexen Fragestellungen.

Vor diesem Hintergrund organisierte die Projektgruppe Verantwortungsbewusste algorithmische Entscheidungsfindung in der Arbeitswelt eine Vortragsreihe, die diese Entwicklungen aus interdisziplinärer und internationaler Perspektive in den Blick nahm. Es ging u. a. um die folgenden Fragen: Wie müssen durch ADM geprägte Arbeitskontexte ausgestaltet werden, um einen verantwortungsbewussten Umgang mit Arbeitskräften zu befördern? Welche technischen, organisatorischen und regulatorischen Rahmenbedingungen sollten dabei gesetzt werden?

Wintersemester 2023/24
Sommersemester 2023
Wintersemester 2022/23

Zurückliegende Veranstaltungen

KI in der Arbeitswelt: Wie können KI und generative KI im Unternehmensalltag unterstützen?

Interdisziplinärer Workshop, 26. März 2024 | zur Veranstaltung

ChatGPT and Beyond:
Auswirkungen generativer KI auf Arbeit und Beschäftigung

Interdisziplinäre Tagung, 8. Dezember 2023 | zur Veranstaltung

Interdisziplinäre Perspektiven auf eine verantwortungsbewusste algorithmische Entscheidungsfindung in der Arbeitswelt

Auftaktworkshop am 27. März 2023 | zum Workshop

Alle Themen des Zentrums