FAU Erlangen-Nürnberg
Die FAU Erlangen-Nürnberg koordiniert das Forschungsprojekt SMARD-GOV. Sie verantwortet die rechtlichen Forschungsarbeiten. Das Team der FAU bringt Expertise insb. in den Bereichen des Datenschutzrechts und der KI-Regulierung in das Projekt ein. Die FAU stellt dabei einerseits die Datenschutzkonformität der Forschungsarbeiten sicher, andererseits bringt sie ihre Expertise ein, um die datenschutzrechtlichen Anforderungen an das Training und den Einsatz von Large Language Models (LLMs) in behördlichen Entscheidungsprozessen zu spezifizieren. Gemeinsam mit den Projektpartnerinnen erarbeitet die FAU insb. implementierbare technische Datenschutzmaßnahmen sowie wirkungsvolle Maßnahmen zur Sicherstellung menschlicher Aufsicht.
Prof. Paulina Jo Pesch (Juniorprofessur für Bürgerliches Recht, Recht der Digitalisierung, des Datenschutzes und der Künstlichen Intelligenz) leitet das Team der FAU. Sie ist ausgewiesene Expertin im Bereich von Rechtsfragen regulierungs- und datenschutzfreundlicher Technologien und verfügt über langjährige Erfahrungen mit der Entwicklung datenschutzfreundlicher Technologien im Rahmen interdisziplinärer Konsortialprojekte. Ihre Forschung zeichnet sich durch ihre besondere technische Tiefe aus und betrachtet Rechtsprobleme von Technologien rechtsübergreifend. Sie beschäftigt sich seit 2020 mit automatisierten Entscheidungen und konzentriert sich seit 2023 auf Rechtsfragen generativer LLMs und andere generative KI-Modelle.
Universität Münster
Die Universität Münster ist mit zwei Arbeitsgruppen des Instituts für Wirtschaftsinformatik an SMARD-GOV beteiligt. Sie leitet die technischen Experimente und die sozialwissenschaftliche Forschung.
Forschungsgruppe IT-Sicherheit
Das Team der Forschungsgruppe IT-Sicherheit trainiert ein vortrainiertes Modell nach (Finetuning) und führt Experimente durch, um technische Datenschutzaspekte zu erforschen und die Wirksamkeit von Datenschutzmaßnahmen zu validieren. Dabei werden etwa für das Finetuning genutzte Daten gezielt aus dem Modell extrahiert, um generalisierbare Erkenntnisse über die Memorisierung von Trainingsdaten zu gewinnen. Dabei setzt sie strenge Maßnahmen zum Schutz Betroffener um.
Prof. Böhme leitet die Forschungsgruppe IT-Sicherheit. Er gehört zu den angesehensten Experten in den Bereichen der IT-Sicherheit und des technischen Datenschutzes. Seine Arbeiten an der Schnittstelle von technischem Datenschutz und Gesellschaft werden international wahrgenommen. Er verfügt über langjährige Erfahrungen mit interdisziplinären Forschungs- und Entwicklungsprojekten sowie der Zusammenarbeit mit Rechtsexpert*innen.
Arbeitsgruppe Digitale Innovation und der öffentlichen Sektor
Das Team der Arbeitsgruppe Digitale Innovation und der öffentlichen Sektor (DIPS) untersucht die sozialwissenschatflichen Aspekte der Nutzung von LLMs für behördliche Entscheidungen. Gegenstand der Forschungsarbeiten sind dabei verhatensbezogene Aspekte von Entschiedungsunterstützungssystemen. Der Schwerpunkt liegt dabei auf der menschlichen Aufsicht über die KI-Systeme. Durch Studien mit den einschlägigen Nutzergruppen werden Maßnahmen zur Gewährleistung der menschlichen Aufsicht validiert.
Prof. Tobias Brandt leitet die sozialwissenschaftlichen Forschungsarbeiten. Er ist ausgewiesener Experte im Bereich automatisierter Entscheidungsfindung und -unterstützung. Seine Forschungsarbeiten decken die Bandbreite der Theorie und des algorithmischen Designs von Entscheidungsunterstützungssystemen ab. Dabei liegt ein Fokus auf der Umsetzung in Organisationen, speziell im öffentlichen Sektor. Er verfügt über langjährige Erfahrungen mit der Erforschung digitaler Innovationen, insb. im Bereich künstlicher Intelligenz, für behördliche Einsatzzwecke.
Prosoz Herten GmbH
Die Prosoz Herten GmbH ist als Industriepartnerin am Forschungsprojekt beteiligt. Das Team von Prosoz bringt ins Projekt ihre Praxisperspektive und ihr vertieftes Verständnis für die Belange von Behörden als Softwareanwenderinnen ein. Prosoz implementiert auf Basis der im Projekt gewonnenen Ergebnisse einen Demosntrator für ein sicheres, Datenschutzkonformes Entscheidungsunterstützungssystem auf Basis eines domänenspezifischen LLM. Daneben vermittelt Prosoz Kontakte zu Behörden, um deren spezifischen Bedürfnisse von vornherein in die Forschungsarbeiten einzubeziehen und die Praxisorientierung der Projektergebnisse sicherzustellen.
Christian Rupp leitet die Arbeiten von Prosoz. Er wirkt als Chief Digital Officer (CDO) des Unternehmens. Er Absolvent des Internationalen Master „AI for public service“ (AI4Gov) der Universidad Politecnica di Madrid und Poli-tecnico di Milano und hat mehrfach zu KI im kommunalen Umfeld und der Öffentlichen Verwaltung publiziert. Er war von 2003–2018 der Exekutivsekretär für E-Government des Bundes im Kanzleramt der Republik Österreich und unterrichtet als Gastdozent an verschiedenen Universitäten in Europa