Das auf drei Jahre angelegte Projekt zur künstlichen Intelligenz in der Arbeitswelt wird mit insgesamt 225.750 Euro von der Hans-Böckler-Stiftung gefördert. Im Zentrum steht eine zentrale Frage: Wie können Menschen auch dann den Überblick und die Kontrolle behalten, wenn KI-Systeme in betrieblichen Abläufen Entscheidungen vorbereiten oder treffen?

Schon heute zeigt sich die Brisanz des Themas: Banken bewerten mit KI-Systemen automatisiert die Kreditwürdigkeit von Kunden. Zwar liegt die Trefferquote in vielen Fällen hoch, doch die endgültige Entscheidung bleibt formal beim Menschen. Kreditprüfer sehen dabei meist nur das Ergebnis oder einzelne Einflussfaktoren, nicht jedoch die vollständige Logik des Modells. Insbesondere angesichts hoher Fallzahlen und Zeitdruck gleicht es häufig der Suche nach der Nadel im Heuhaufen, die wenigen problematischen Entscheidungen zuverlässig herauszufiltern.

Die Nadel im Heuhaufen

„Wir wollen erforschen, wie Menschen bei der beruflichen Zusammenarbeit mit KI auch in Zukunft die Kontrolle behalten können. Dafür brauchen sie Möglichkeiten, die Systeme bestmöglich an ihre Bedürfnisse anzupassen. Wir glauben, dass zukünftige Nutzer schon während der Entwicklung eines KI-Systems mitbestimmen sollten“, sagt Braun. Ihn beschäftigt besonders, dass der öffentliche Diskurs häufig auf potenziellem Arbeitsplatzverlust fokussiert ist. „Mindestens genauso wichtig ist die Frage, wie KI die Arbeitsbedingungen verändert“, sagt Prof. Dr. Daniel Braun. Ziel seiner Arbeitsgruppe ist es daher, technische Verfahren und organisatorische Prozesse zu entwickeln, mit denen Beschäftigte Einfluss auf Design, Entwicklung und Einsatz betrieblicher KI-Systeme nehmen können. Das Projektbudget sieht für die Arbeitsgruppe bis zu drei Promotionsstipendien vor.

„Künstliche Intelligenz wird Wirtschaft und Gesellschaft in den kommenden Jahren grundlegend verändern – umso wichtiger ist es, ihre Auswirkungen auf die Arbeitswelt frühzeitig wissenschaftlich zu begleiten“, betont Prof. Dr. Thomas Nauss, Präsident der Philipps-Universität Marburg. „Mit der Nachwuchsforschungsgruppe von Daniel Braun stärken wir unsere interdisziplinäre KI-Forschung und leisten einen wichtigen Beitrag dazu, technologische Innovation mit gesellschaftlicher Verantwortung zu verbinden.“

Austausch mit Gewerkschaften

Der gesellschaftliche Rahmen macht die Forschung hochaktuell. Mit der europäischen KI-Verordnung wurde ein erster Regulierungsrahmen geschaffen, der Verbraucher schützt. Für sogenannte Hochrisikosysteme, die zum Beispiel in der Medizin oder beim autonomen Fahren zum Einsatz kommen, wird eine menschliche Kontrollinstanz künftig sogar verpflichtend – der „Human-in-the-Loop“.

Doch Verantwortung allein reicht nicht aus, wenn organisatorische und technische Mittel fehlen, um Systeme wirksam zu beeinflussen. Genau hier setzt das Marburger Projekt an: Es verbindet technologische Entwicklung mit arbeitswissenschaftlichen, rechtlichen und gesellschaftlichen Perspektiven und trägt damit zu einer verantwortungsvollen Gestaltung der digitalen Transformation bei.

„Auch der Austausch mit Partnern wie Gewerkschaften und die interdisziplinäre Arbeit mit Kollegen reizt mich sehr“, freut sich Prof. Dr. Daniel Braun auf das Projekt.