Teilprojekt eines Verbundes

KI-Design

Förderkennzeichen: 01GP2503A
Fördersumme: 382.688 EUR
Förderzeitraum: 2025 - 2028
Projektleitung: Prof. Dr. Claudia Müller-Birn
Adresse: Freie Universität Berlin, Fachbereich Mathematik und Informatik, Institut für Informatik - AG Human-Centered Computing
Königin-Luise-Str. 24/26
14195 Berlin

Die Diagnose seltener Krankheiten ist komplex und betrifft überproportional Kinder und Jugendliche. Verzögerte oder falsche Diagnosen führen oft zu längerem Leiden und in schweren Fällen zum Tod – betroffen sind bis zu 30 % der Kinder. Jüngste Fortschritte in der Künstlichen Intelligenz (KI) versprechen, die Diagnose durch die Integration von genomischen, phänotypischen und klinischen Daten zu beschleunigen. Dennoch besteht eine erhebliche Lücke zwischen diesen technologischen Fortschritten und ihrer praktischen Anwendung bei Jugendlichen und ihren Familien, da die Nutzung von KI kritische, ethische, normative und soziale Herausforderungen mit sich bringt. Um diese Herausforderungen anzugehen, hat das Vorhaben einen werteorientierten partizipativen Forschungsansatz entwickelt, um die Werte, Anliegen und Erwartungen von Jugendlichen, ihren Eltern und Ärztinnen und Ärzten in Bezug auf KI-basierte Diagnosewerkzeuge zu identifizieren. Durch eine Kombination aus konzeptionellen, empirischen und gestaltungsbasierten Untersuchungen werden die Werte der Stakeholder in umsetzbare Leitlinien übersetzt – die ETHIC-AI.D. Diese Leitlinien sollen politische Entscheidungsträger, Gesundheitsfachkräfte und Patientenvertretungen ein werteorientiertes Design von KI-basierten Diagnosewerkzeugen vermitteln. Im Rahmen von ETHIC-AI.D wird auch ein frei zugängliches, interaktives Tool bereitgestellt, mit dem die Öffentlichkeit die gesammelten Werte erkunden kann. Die Forschung verfolgt eine multidisziplinäre Perspektive und stützt sich auf die Expertise von Menschen mit seltenen Krankheiten sowie Expertinnen und Experten aus dem menschzentrierten KI-Design, Medizin, Sozialwissenschaften, KI-Technologie, Medizinethik, Recht und Medienbildung.