Ziel des Verbundprojektes ist es, die Einbindung generativer künstlicher Intelligenz in medizinische Kontexte aus erkenntnistheoretischer, soziologischer, bioethischer und rechtswissenschaftlicher Perspektive zu untersuchen. Das rechtliche Teilprojekt zielt vor allem darauf ab, medizinischen Skakeholdern einen rechtssicheren Einsatz von generativer KI zu ermöglichen. Dabei wird ein Fokus auf vier Themenbereiche gelegt: 1) LLMs zwischen Therapiehoheit und Delegation ärztlicher Entscheidungen: Es wird analysiert, welche Entscheidungsfelder rechtlich und ethisch unantastbar ärztlicher Kompetenz zugehören und wie technische Assistenzsysteme in diesen Kontext integriert werden können. Ist es denkbar, dass KI-Entscheidungen an die Stelle ärztlicher Entscheidungen treten, wenn sie genauso sicher sind? Oder muss ein Rest an Autonomie beim ärztlichen Personal verbleiben? Welche Auswirkungen ergeben sich daraus für Innovationen? 2) LLMs als dynamische Systeme: Bei LLM-basierten KI-Systemen handelt sich regelmäßig um dynamische Systeme, die sich ständig weiterentwickeln. Hingegen setzt der bestehende medizinprodukterechtliche Rechtsrahmen punktuelle Zertifizierungen, so dass sich die Frage stellt, ob der regulatorische Rahmen mit der technischen Entwicklung Schritt hält. 3) LLMs bei der Patientenaufklärung: Sind bei der Anwendung LLM-gestützter Technologien Besonderheiten hinsichtlich der Aufklärung zu beachten, vergleichbar mit der Verwendung von Neulandmethoden? 4) LLMs und Haftung: Inwiefern muss das Autonomierisiko selbstlernender Systeme und die fehlende Erklärbarkeit von Entscheidungen von KI-Systemen ärztlicherseits berücksichtigt werden, um Haftung auszuschließen?