Verbund

ETHIC-AID - Ethisch ausgerichtete KI-Diagnostik für Seltene Erkrankungen: Ein wertezentrierter partizipativer Ansatz für Leitlinien zur Gestaltung, Entwicklung und Integration von KI

Der techn(olog)ische und methodische Fortschritt der modernen Lebenswissenschaften eröffnet neue Lösungswege für aktuelle und künftige Herausforderungen unserer Gesellschaft. Dies wirft ethische, rechtliche und soziale Fragen auf und fordert teils bestehende Wertvorstellungen heraus. Aufgabe innovationsorientierter Forschungspolitik ist es, derartige zukunftsrelevante Fragen frühzeitig zu identifizieren und zu berücksichtigen sowie die Zusammenarbeit von relevanten Interessengruppen zu stärken.

Die Diagnose Seltener Krankheiten ist komplex und betrifft häufig Kinder und Jugendliche. Künstlichen Intelligenz (KI) verspricht, Diagnosen für Seltene Erkrankungen zu beschleunigen, indem sie vielfältige medizinische Daten einbezieht. Wie diese Daten ausgesucht und gewichtet werden, ist eine wichtige Stellschraube bei der Ausgestaltung der Technologie. Zur Ausgestaltung dieser KI-basierten Diagnosewerkzeugen entwickelt das Projekt ETHIC-AID Leitlinien für die Politik, Gesundheitsfachkräfte und Patientenvertretungen, die relevante Fragen adressieren zu Transparenz, Interpretierbarkeit und Fairness. Was ist für betroffene Familien wichtig zu wissen, um die Werkzeuge zu verstehen und zu nutzen? Wie können sie mit den Unsicherheiten der Ergebnisse umgehen? Dazu ermitteln und priorisieren die Forschenden in Workshops und Umfragen Werte, Anliegen und Erwartungen von Jugendlichen, ihren Eltern sowie Ärztinnen und Ärzten in Bezug auf KI-basierte Diagnosewerkzeuge. Konkurrierende Werte werden aufgearbeitet und in Bezug gesetzt. Auch ein interaktives Tool zur Erkundung der gesammelten Werte wird bereitgestellt.

Damit leistet das Vorhaben einen wichtigen Beitrag zu den Zielen der BMFTR-Förderrichtlinie zur Förderung von Forschungsprojekten zu ethischen, rechtlichen und sozialen Aspekten von Zukunftsthemen in den modernen Lebenswissenschaften. Ziel der Maßnahme ist es, relevante Fragen, Chancen und Risiken zu Zukunftsthemen fachübergreifend zu analysieren, Diskussionsprozesse wissenschaftlich zu fundieren sowie ethisch-rechtliche Empfehlungen zu deren Handhabung zu erarbeiten.

Teilprojekte

KI-Design

Förderkennzeichen: 01GP2503A
Gesamte Fördersumme: 382.688 EUR
Förderzeitraum: 2025 - 2028
Projektleitung: Prof. Dr. Claudia Müller-Birn
Adresse: Freie Universität Berlin, Fachbereich Mathematik und Informatik, Institut für Informatik - AG Human-Centered Computing
Königin-Luise-Str. 24/26
14195 Berlin

KI-Design

Die Diagnose seltener Krankheiten ist komplex und betrifft überproportional Kinder und Jugendliche. Verzögerte oder falsche Diagnosen führen oft zu längerem Leiden und in schweren Fällen zum Tod – betroffen sind bis zu 30 % der Kinder. Jüngste Fortschritte in der Künstlichen Intelligenz (KI) versprechen, die Diagnose durch die Integration von genomischen, phänotypischen und klinischen Daten zu beschleunigen. Dennoch besteht eine erhebliche Lücke zwischen diesen technologischen Fortschritten und ihrer praktischen Anwendung bei Jugendlichen und ihren Familien, da die Nutzung von KI kritische, ethische, normative und soziale Herausforderungen mit sich bringt. Um diese Herausforderungen anzugehen, hat das Vorhaben einen werteorientierten partizipativen Forschungsansatz entwickelt, um die Werte, Anliegen und Erwartungen von Jugendlichen, ihren Eltern und Ärztinnen und Ärzten in Bezug auf KI-basierte Diagnosewerkzeuge zu identifizieren. Durch eine Kombination aus konzeptionellen, empirischen und gestaltungsbasierten Untersuchungen werden die Werte der Stakeholder in umsetzbare Leitlinien übersetzt – die ETHIC-AI.D. Diese Leitlinien sollen politische Entscheidungsträger, Gesundheitsfachkräfte und Patientenvertretungen ein werteorientiertes Design von KI-basierten Diagnosewerkzeugen vermitteln. Im Rahmen von ETHIC-AI.D wird auch ein frei zugängliches, interaktives Tool bereitgestellt, mit dem die Öffentlichkeit die gesammelten Werte erkunden kann. Die Forschung verfolgt eine multidisziplinäre Perspektive und stützt sich auf die Expertise von Menschen mit seltenen Krankheiten sowie Expertinnen und Experten aus dem menschzentrierten KI-Design, Medizin, Sozialwissenschaften, KI-Technologie, Medizinethik, Recht und Medienbildung.