Nachhaltige Mensch-KI-Zusammenarbeit (NaMeKI)

Forschungshintergrund

Der demographische Wandel, der steigende Bedarf an Pflege- und Gesundheitsdienstleistungen sowie der zunehmende Fachkräftemangel stellen die Gesundheitsversorgung vor erhebliche Herausforderungen. Technologische Innovationen, insbesondere KI-gestützte Assistenzsysteme und robotische Unterstützungssysteme, können einen Beitrag dazu leisten, pflegerische und therapeutische Prozesse sinnvoll zu unterstützen. Ob und unter welchen Bedingungen solche Technologien tatsächlich einen Mehrwert bieten, hängt jedoch nicht allein von ihrer technischen Leistungsfähigkeit ab, sondern ebenso von ihrer gesellschaftlichen, ethischen und praktischen Einbettung. Insbesondere Fragen des Vertrauens, der Privatheit, der Verantwortung sowie der ethischen Akzeptabilität entscheiden darüber, ob Mensch-KI-Zusammenarbeit nachhaltig gestaltet werden kann. NaMeKI verfolgt daher einen interdisziplinären Ansatz, der technische, ethische, psychologische und sozialwissenschaftliche Perspektiven zusammenführt, um menschenzentrierte und verantwortbare Formen der Mensch-KI-Zusammenarbeit in Pflege und Gesundheitsversorgung zu entwickeln.

Forschungsinhalte

NaMeKI untersucht die Zusammenarbeit zwischen Pflegebedürftigen, professionell Pflegenden und KI-gestützten Assistenzsystemen als komplexes soziotechnisches System. Im Verbund werden Fragestellungen aus Informatik, Robotik, Psychologie, Design, Pflegewissenschaft und Medizinethik zusammengeführt. Ziel ist es, technische Lösungen zu entwickeln, die nicht nur funktional leistungsfähig, sondern zugleich sicher, vertrauenswürdig und menschenzentriert gestaltet sind.
Das gemeinsame Teilprojekt der Universitätsmedizin Göttingen (Institut für Ethik und Geschichte der Medizin) und der Georg-August-Universität Göttingen (Institut für Informatik) untersucht ethische und privatheitsschützende Interaktionen mit dem Roboter. Privatheitsbedenken zählen zu den häufigsten Gründen für Vorbehalte gegenüber robotischen Assistenzsystemen, ihre Ursachen und Auswirkungen sind bislang jedoch nur unzureichend erforscht. Mittels empirischer Fallstudien werden daher die Perspektiven von Patient*innen, professionell Pflegenden und Angehörigen untersucht. Aufbauend auf diesen Erkenntnissen werden technische Lösungsansätze – beispielsweise transparenzfördernde Benutzeroberflächen und privatheitsschützende Interaktionskonzepte – in einem partizipativen und iterativen Entwicklungsprozess gestaltet und evaluiert. Besonderes Augenmerk gilt dabei unterschiedlichen Nutzungskontexten sowie der Diversität der beteiligten Personengruppen.

Forschungsziele

• Entwicklung wissenschaftlicher Grundlagen für eine nachhaltige und menschenzentrierte Mensch-KI-Zusammenarbeit in Pflege und Gesundheitsversorgung.
• Untersuchung der Bedeutung von Vertrauen, Vertrauenswürdigkeit, Privatheit und Transparenz für den Einsatz KI-gestützter Assistenzsysteme.
• Durchführung qualitativer Interviews mit professionell Pflegenden sowie Klient*innen bzw. Patient*innen im Kontext der Altenpflege, um Einstellungen, Erfahrungen und Privatheitsbedenken gegenüber robotischen Assistenzsystemen zu untersuchen.
• Identifikation empirischer Faktoren, die Vertrauen, Privatheit sowie die ethische Akzeptabilität robotischer Assistenzsysteme beeinflussen.
• Entwicklung und Evaluation transparenzfördernder und privatheitsschützender Interaktionskonzepte in einem partizipativen und iterativen Entwicklungsprozess.
• Erarbeitung ethischer Orientierungsrahmen und praxisnaher Handlungsempfehlungen für Forschung, Technikentwicklung und die verantwortungsvolle Implementierung von KI-Systemen in der Gesundheitsversorgung.
   

Forschungsergebnisse / Outreach

• World Congress of Bioethics (8. Juli 2026, Johannesburg): Vortrag „Ethical Orientation through Systematics: A Care Robot Matrix and Typology of Trust and Trustworthiness“ (Christian Loos). Der Beitrag stellte einen systematischen Orientierungsrahmen zur ethischen Bewertung pflegerobotischer Assistenzsysteme vor.
• 11. Ringvorlesung des Wissenschaftsraums NaMeKI (30. Juni 2026, Universitätsmedizin Göttingen): Gemeinsame Vorlesung „Ethik der Digitalisierung und KI im Gesundheitswesen“ (Prof. Dr. Silke Schicktanz & Christian Loos).
• Pflegeethik-Kongress 2026 (25.–27. Februar 2026, Universitätsmedizin Göttingen): Planung und Leitung des Präkongress-Workshops „Ethische Orientierung durch Systematik: Pflegeroboter-Matrix und Typologie von Vertrauen und Vertrauenswürdigkeit“ (Christian Loos).
• Pflegeethik-Kongress 2026: Präsentation des interdisziplinären Posters „Sicherheit und Vertrauenswürdigkeit pflegerobotischer Assistenzsysteme – Ethische Prinzipien in interdisziplinärer Perspektive“ (Tobias Geger, Erik Loff, Ole Grams, Mona Hichert, Christian Loos, Kim Schreiber).
• Nacht des Wissens (21. Juni 2025, Universitätsmedizin Göttingen): Moderation der Podiumsdiskussion „Die Zukunft der Mensch-Roboter-Interaktion mit PRIVATAR und NaMeKI“ durch Christian Loos mit Prof. Dr. Silke Schicktanz und Prof. Dr. Delphine Reinhardt.
• Kontinuierlicher Wissenstransfer: Interdisziplinäre Lehrveranstaltungen, Workshops und wissenschaftliche Vorträge zur Förderung des Austauschs zwischen Informatik, Robotik, Medizinethik und Gesundheitsversorgung.