Die Diagnose seltener Krankheiten ist komplex und betrifft überproportional Kinder und Jugendliche, da viele seltene Erkrankungen meist schon im Kindesalter auftreten. Fortschritte in der Künstlichen Intelligenz (KI) versprechen, Diagnosen in diesem Bereich zu beschleunigen, indem entsprechende Systeme medizinische Daten aus unterschiedlichen Quellen zusammenführen. Solche Technologien werden bislang noch nicht überall in Deutschland genutzt, auch weil sie verschiedene ethische, rechtliche und soziale Herausforderungen mit sich bringen.

Bei der Ausgestaltung neuer Diagnosewerkzeuge ist es unter anderem wichtig zu wissen, warum welche Daten ausgesucht und wie diese von der KI genutzt werden. Dazu, welche Informationen solche Diagnosetools letztlich bereitstellen sollten, entwickeln die Beteiligten im Projekt ETHIC-AID praxisnahe Empfehlungen für politische Entscheidungsträger, Fachkräfte im Gesundheitswesen und Patientenvertretungen.  

Dabei werden u. a. folgende Fragen berücksichtigt: Wie kann eine gute Aufklärung und informierte Einwilligung von Eltern und Kindern auch bei geringer KI-Kompetenz sichergestellt werden? Wie transparent und nachvollziehbar ist die KI mit Blick auf die genutzten Daten und das eingesetzte Modell?   

Den Forschenden bei ETHIC-AID geht es darum, nicht nur die technischen Möglichkeiten KI-basierter Diagnosewerkzeuge zu betrachten, sondern menschliche Werte, Bedürfnisse, Sorgen und Erwartungen in den Blickpunkt rücken. Was ist für betroffene Familien wichtig zu wissen, um die Werkzeuge verstehen und nutzen zu können? Wie können sie mit den Unsicherheiten der Ergebnisse umgehen? Die Werte, Anliegen und Erwartungen von Jugendlichen, ihren Eltern sowie Ärztinnen und Ärzten in Bezug auf KI-basierte Diagnosewerkzeuge will das ETHIC-AID-Team in Workshops und Umfragen ermitteln und priorisieren.

Eine große Reichweite erhofft sich das Projektteam durch die Kooperation mit den Betreibern von „unrare.me“, einer Social Media-App für Menschen mit seltenen und chronischen Erkrankungen oder Behinderungen. Dort finden sich Informationen für Betroffene, Angehörige und medizinische Fachkräfte in klarer und verständlicher Sprache, um alle Interessengruppen ansprechen zu können, unabhängig von deren Hintergrund oder Fachkenntnissen.

Der interdisziplinäre Verbund stützt sich auf die Expertise von Menschen mit seltenen Krankheiten sowie Expertinnen und Experten aus Mensch-Computer Interaktion, Medizin, Sozialwissenschaften, KI-Technologie und KI-Design, Medizinethik, Recht und Medienbildung.

Weitere Informationen: ETHIC-AID - Ethisch ausgerichtete KI-Diagnostik für Seltene Erkrankungen: Ein wertezentrierter partizipativer Ansatz für Leitlinien zur Gestaltung, Entwicklung und Integration von KI