Verbund

KI-S - Generative KI und sexualisierte Gewalt als Herausforderungen der Lebenswissenschaften: Ethische, rechtliche und soziale Aspekte im interdisziplinären Fokus

Die technischen und methodischen Fortschritte in den modernen Lebenswissenschaften eröffnen Lösungswege für aktuelle Herausforderungen, aber können auch ethische, rechtliche und gesellschaftliche Fragen aufwerfen und bestehende Wertvorstellungen herausfordern. Die offene und kritische Diskussion dieser Fragen in Form von Diskursen mit Bürgerinnen und Bürgern, insbesondere der jungen Generation, ermöglicht eine qualifizierte Meinungsbildung und fördert Mitgestaltungskompetenzen bei demokratischen Entscheidungsprozessen.

Das Projekt KI-S ist Teil der BMFTR-Förderrichtlinie zur Förderung von Diskursprojekten zu ethischen, rechtlichen und sozialen Fragen in den modernen Lebenswissenschaften. Ziel dieser Bekanntmachung ist es, den gesellschaftlichen Diskurs zu ethischen, rechtlichen und sozialen Aspekten zu aktuellen Entwicklungen in den Lebenswissenschaften durch innovative Diskursformate voranzubringen. Auf diese Weise werden die Implikationen aktueller Entwicklungen im Diskurs zwischen Wissenschaft und Gesellschaft aufgearbeitet und ein besseres multilaterales Verständnis geschaffen.

Der Verbund KI-S beleuchtet die Auswirkungen von KI- und bildbasierter sexualisierter Gewalt und den damit einhergehenden medizinischen und psychosozialen Folgen. In einem interdisziplinären Diskursformat sollen sich Forschende und junge Menschen als besonders vulnerable Zielgruppe in mehreren aufbauenden Runden mit den Problemdefinitionen und den ethischen, rechtlichen und gesellschaftlichen Herausforderungen auseinandersetzen: Welche medizinischen und psychosozialen Folgen gehen mit dieser Art von Gewalt bei jungen Menschen einher? Welche Versorgungsbedarfe können daraus entstehen? Wie müssten nachhaltige Maßnahmen insbesondere zum Schutz junger Menschen aussehen? Die Projektergebnisse sollen in wissenschaftlichen Veröffentlichungen und in eine nachhaltige Präventions-/ Interventionsstrategie einfließen sowie als Webinar zugänglich sein.

Teilprojekte

Teilprojekt 1

Förderkennzeichen: 01GP2572A
Gesamte Fördersumme: 320.237 EUR
Förderzeitraum: 2025 - 2027
Projektleitung: Dr. Arne Dekker
Adresse: Universitätsklinikum Hamburg-Eppendorf, Zentrum für Psychosoziale Medizin, Institut für Sexualforschung, Sexualmedizin und Forensische Psychiatrie
Martinistr. 52
20251 Hamburg

Teilprojekt 1

Die Erstellung und Verbreitung von gefälschtem pornografischem Bildmaterial mithilfe generativer KI auf Basis von Alltagsfotos und -videos stellt eine neue Herausforderung für die Lebenswissenschaften dar. Betroffene, darunter insbesondere Jugendliche und junge Erwachsene, sehen sich dadurch erheblichen psychischen Belastungen ausgesetzt und benötigen adäquate Unterstützung. Um diesen medizinischen und psychosozialen Versorgungsbedarfen gerecht zu werden und ihnen vorzubeugen, müssen nicht nur lebenswissenschaftliche, sondern auch ethische, rechtliche, soziale sowie technologische Fragen geklärt werden. Das Diskursprojekt KI-S vernetzt hierfür Expertinnen und Experten aus Lebenswissenschaften, Pädagogik, Rechtswissenschaft und Informationstechnologie gezielt mit jungen Menschen. Durch einen innovativen methodischen Ansatz, der einen gruppenbasierten Delphi-Prozess mit partizipativen "Future Spaces" verbindet, bringen Experten ihr Fachwissen ein, während Jugendliche und junge Erwachsene mit ihrem Erfahrungswissen aktiv beteiligt sind. Ziel ist es, gemeinsam nachhaltige Präventions- und Interventionsstrategien zu entwickeln. Diese werden über eine wissenschaftliche Buchpublikation, ein praxisnahes Manual sowie ein Webinar der medizinischen und psychosozialen Fachpraxis in der Breite zur Verfügung gestellt. Teilvorhaben 1 führt eine mehrstufige interdisziplinäre Delphi-Befragung mit Expertinnen und Experten aus den genannten Bereichen durch. In Form eines strukturierten Face-to-Face-Austauschs wird hierbei ein interdisziplinärer Diskurs über KI-gestützte bildbasierte sexualisierte Gewalt ermöglicht und durch qualitative und quantitative Analysen unterstützt. Teilvorhaben 1 bereitet die im Diskursprojekt gewonnenen Erkenntnisse in Form einer Buchpublikation unter aktiver Beteiligung der Experten auf. Darüber hinaus konzipiert und implementiert es ein Webinar und vermittelt darin zielgruppengerecht zentrale Ergebnisse.

Teilprojekt 2

Förderkennzeichen: 01GP2572B
Gesamte Fördersumme: 262.768 EUR
Förderzeitraum: 2025 - 2027
Projektleitung: Prof. Dr. Martin Wazlawik
Adresse: Hochschule Hannover, Fakultät V, Diakonie, Gesundheit und Soziales
Blumhardtstr. 2
30625 Hannover

Teilprojekt 2

Die Erstellung und Verbreitung von gefälschtem pornografischem Bildmaterial mithilfe generativer KI auf Basis von Alltagsfotos und -videos stellt eine neue Herausforderung für die Lebenswissenschaften dar. Betroffene, darunter insbesondere Jugendliche und junge Erwachsene, sehen sich dadurch erheblichen psychischen Belastungen ausgesetzt und benötigen adäquate Unterstützung. Um diesen medizinischen und psychosozialen Versorgungsbedarfen gerecht zu werden und ihnen vorzubeugen, müssen nicht nur lebenswissenschaftliche, sondern auch ethische, rechtliche, soziale sowie technologische Fragen geklärt werden. Das Diskursprojekt KI-S vernetzt hierfür Expertinnen und Experten aus Lebenswissenschaften, Pädagogik, Rechtswissenschaft und Informationstechnologie gezielt mit jungen Menschen. Durch einen innovativen methodischen Ansatz, der einen gruppenbasierten Delphi-Prozess mit partizipativen "Future Spaces" verbindet, bringen Experten ihr Fachwissen ein, während Jugendliche und junge Erwachsene mit ihrem Erfahrungswissen aktiv beteiligt sind. Ziel ist es, gemeinsam nachhaltige Präventions- und Interventionsstrategien zu entwickeln. Diese werden über eine wissenschaftliche Buchpublikation, ein praxisnahes Manual sowie ein Webinar der medizinischen und psychosozialen Fachpraxis in der Breite zur Verfügung gestellt.  Teilvorhaben 2 führt partizipative Future Spaces mit Jugendlichen und jungen Erwachsenen als Adressaten-Vertretenden durch, um die zielgruppengerechte Ausgestaltung der Präventions- und Interventionsstrategien zu gewährleisten. Es unterstützt und begleitet die jungen Menschen bei der Überarbeitung der von den Expertinnen und Experten entwickelten Präventions- und Interventionsstrategien. Darüber hinaus zielt Teilvorhaben 2 auf die Gestaltung des praxisorientierten Manuals ab, um die Präventions- und Interventionsstrategien praxistauglich aufzubereiten und der medizinischen und psychosozialen Fachpraxis nachhaltig zur Verfügung zu stellen.