Forschungsprofessur EQUIP-AI - Forschung zu altersinklusiver und gerechter KI im Gesundheitswesen

Mit der zunehmenden Integration von Künstlicher Intelligenz (KI) in das Gesundheitswesen verspricht diese Innovationen, birgt jedoch gleichzeitig das Risiko, bestehende Ungleichheiten zu verstärken. Während geschlechtsbezogene und rassistische Verzerrungen in KI bereits Aufmerksamkeit erhalten haben, ist Ageism bislang kritisch untererforscht. Ältere Erwachsene sind besonders gefährdet, da sie in Trainingsdatensätzen unterrepräsentiert sind. Dies führt zu blinden Flecken in großen Sprachmodellen (Large Language Models, LLMs) und klinischen Entscheidungsunterstützungssystemen, wodurch algorithmische Altersdiskriminierung entsteht: Symptome können übersehen, Risiken falsch eingeschätzt oder Behandlungen nicht angemessen angepasst werden. Darüber hinaus können altersbezogene Stereotype durch auf historischen Daten trainierte KI-Systeme verstärkt oder perpetuiert werden.

Um diesen Risiken zu begegnen, untersucht die Professur KI-getriebenen Ageism durch partizipative und altersinklusive Ansätze. Basierend auf Co-Design werden ältere Erwachsene, Gesundheitsfachkräfte und pflegende Angehörige in die Entwicklung und Evaluation von KI-Tools einbezogen. Die Ziele der Professur sind:

a) empirisch zu untersuchen, in welchem Ausmaß und unter welchen Bedingungen KI-bedingter Ageism in der klinischen Entscheidungsfindung auftritt, unter Einsatz von Methoden wie kontrafaktischem Prompting mit klinischen Fallbeispielen, und zu analysieren, inwiefern LLMs derartige Verzerrungen erkennen oder mindern können;

b) ethische, inklusive KI-Anwendungen zu co-kreieren, die gelebte Erfahrungen widerspiegeln und die Benutzer*innenfreundlichkeit, das Vertrauen sowie die Kommunikation in unterschiedlichen Versorgungskontexten verbessern.

Durch die Integration von Co-Design, kontrafaktischer Evaluation und intersektionalen Perspektiven leistet diese Forschung einen Beitrag zu verantwortungsvoller KI im Gesundheitswesen und schafft die Grundlage für skalierbare und ethische digitale Gesundheitslösungen, die Gerechtigkeit, Gesundheit und Wohlbefinden in alternden Bevölkerungen fördern.