Generative KI-Systeme werden zunehmend in verschiedene Lebensbereiche integriert, so auch in der Medizin und der biomedizinischen Forschung. Solche Systeme werden mit großen Mengen an Daten trainiert, aus denen sie Muster erlernen und neue Inhalte erzeugen, die ebenfalls diesen Mustern folgen – Vorgänge also, die traditionell Kreativität und menschliches Verständnis erfordern. Verwendet werden diese generativen KI-Systeme zum Beispiel bei der automatisierten Erstellung medizinischer Dokumentation, der Unterstützung diagnostischer Entscheidungsprozesse, der Analyse von komplexen Forschungsdaten, der Identifikation möglicher Wirkstoffe sowie in der patientennahen Kommunikation.

Im Projekt EmGAI werden die Forschenden zunächst die Chancen und Risiken des Einsatzes generativer KI beleuchten und abwägen. Dazu bearbeiten sie unterschiedliche Fragen: Wie verändert generative KI die Arbeit im Krankenhaus, in der medizinischen Forschung und in der Ausbildung? Welche neu erzeugten Inhalte sind verlässlich, wie stark kann man sich auf Technik stützen und ihr vertrauen? Wer trifft die letztliche Entscheidung über das weitere Vorgehen? Auch untersuchen die Wissenschaftlerinnen und Wissenschaftler, in welchen Bereichen die Technologie sinnvoll genutzt werden kann. Hierzu interviewen sie beispielsweise Ärztinnen und Ärzte und anderes Fachpersonal.

Aus rechtlicher Perspektive beleuchten die Forschenden, welche Anwendungen bereits im Alltag Verwendung finden. Hier spielen Fragen nach dem Umgang mit zunehmender Autonomie von KI-Anwendungen eine Rolle sowie Fragen der Verantwortlichkeit. Des Weiteren untersucht das Team bei EmGAI, ob generative KI normative Probleme mildern, lösen oder verschärfen bzw. neue Dilemmata erzeugen. Beispielsweise wird der Frage nachgegangen, ob große Sprachmodelle (LLMs) verlässlich medizinisches Wissen vermitteln und sich positiv auf die Förderung von Empathie auswirken oder einen negativen Einfluss zum Beispiel im Hinblick auf den Verlust eigener Fähigkeiten oder die Ausbildung übermäßigen Vertrauens in technische Systeme haben. Ein besonderer Fokus liegt auf neuartigen Entwicklungen wie biologischen Sprachmodellen (BLMs), die die in der menschlichen DNA versteckte „Sprache“ analysieren können. Solche Modelle gleichen einer Medaille mit zwei Seiten: Sie können bei der Behandlung von Krankheiten unterstützen, sie haben aber auch ein sogenanntes Dual-Use-Potenzial und lassen sich zum Beispiel zu militärischen Zwecken oder zur Beeinflussung von Organisationen, Unternehmen oder Staaten einsetzen.

Um diese vielfältigen Perspektiven bearbeiten zu können, beteiligen sich Wissenschaftlerinnen und Wissenschaftler unterschiedlicher Forschungsfelder an den Arbeiten bei EmGAI: Erkenntnistheorie, Ethik, Soziologie und Recht. Gemeinsam wollen sie Handlungsempfehlungen für Wissenschaft, Politik und Praxis erarbeiten und einer breiteren Öffentlichkeit Informationen für einen verantwortungsvollen Umgang mit generativer KI im Kontext von klinischer Praxis, medizinischer Forschung und Ausbildung an die Hand geben.

Weitere Informationen: