Die Diagnose seltener Krankheiten ist komplex und betrifft überproportional Kinder und Jugendliche. Verzögerte oder falsche Diagnosen führen oft zu längerem Leiden und in schweren Fällen zum Tod – betroffen sind bis zu 30 % der Kinder. Jüngste Fortschritte in der Künstlichen Intelligenz (KI) versprechen, die Diagnose durch die Integration von genomischen, phänotypischen und klinischen Daten zu beschleunigen. Dennoch besteht eine erhebliche Lücke zwischen diesen technologischen Fortschritten und ihrer praktischen Anwendung bei Jugendlichen und ihren Familien, da die Nutzung von KI kritische, ethische, normative und soziale Herausforderungen mit sich bringt. Um diese Herausforderungen anzugehen, hat das Vorhaben einen werteorientierten partizipativen Forschungsansatz entwickelt, um die Werte, Anliegen und Erwartungen von Jugendlichen, ihren Eltern und Ärztinnen und Ärzten in Bezug auf KI-basierte Diagnosewerkzeuge zu identifizieren. Durch eine Kombination aus konzeptionellen, empirischen und gestaltungsbasierten Untersuchungen werden die Werte der Stakeholder in umsetzbare Leitlinien übersetzt – die ETHIC-AI.D. Diese Leitlinien sollen politische Entscheidungsträger, Gesundheitsfachkräfte und Patientenvertretungen ein werteorientiertes Design von KI-basierten Diagnosewerkzeugen vermitteln. Im Rahmen von ETHIC-AI.D wird auch ein frei zugängliches, interaktives Tool bereitgestellt, mit dem die Öffentlichkeit die gesammelten Werte erkunden kann. Die Forschung verfolgt eine multidisziplinäre Perspektive und stützt sich auf die Expertise von Menschen mit seltenen Krankheiten sowie Expertinnen und Experten aus dem menschzentrierten KI-Design, Medizin, Sozialwissenschaften, KI-Technologie, Medizinethik, Recht und Medienbildung.

Das Projekt entwickelt ethische, stakeholderorientierte KI-Diagnostik für seltene Krankheiten anhand von fünf integrierten Arbeitspaketen. WP1 schafft eine gemeinsame Grundlage durch die Zusammenstellung einer kommentierten Literaturbibliothek, die Durchführung interner Interviews und die Erstellung einer umfassenden Stakeholder-Karte, um Ziele abzustimmen und das Engagement zu steuern. WP2 führt partizipative Workshops mit Jugendlichen, Eltern und Fachkräften im Gesundheitswesen durch, um Bedürfnisse, Ängste, Erwartungen und ethische Spannungen aufzudecken, und erstellt ein Werteglossar und öffentlich zugängliche Dokumentationen. WP3 erweitert die Erkenntnisse durch eine Online-Umfrage unter 500 Jugendlichen/Familien und 500 Ärzten, ergänzt durch Sprachmemos; eine integrierte Analyse deckt Wertemuster und Wechselbeziehungen auf, bereichert das Glossar und führt zu einer wissenschaftlichen Veröffentlichung. WP4 setzt Werte mithilfe gemeinsam entworfener Storyboards und Low-Fidelity-Prototypen in die Praxis um, stimmt die Prioritäten der Stakeholder mit den technischen Möglichkeiten ab, klärt Kompromisse und legt Anforderungen an Interaktion, Daten und Feedback fest; zu den Ergebnissen gehören Prototypen und Dokumentationen. WP5 fasst die Ergebnisse zu umsetzbaren Leitlinien für politische Entscheidungsträger, Kliniker und Entwickler zusammen, die in Expertenworkshops verfeinert werden, und bietet eine Webanwendung zur Erforschung von Werten und ihren Zusammenhängen; die Qualität des Engagements wird mit dem REST-Tool bewertet. Zusammen binden die Phasen – Kartierung, Ermittlung, Messung, Co-Design und Operationalisierung – ethische Verpflichtungen direkt in KI-Diagnosetools ein.