Prof. Dr. Martin Langanke & Dr.in Wenke Liedtke
Digitalisierung in Medizin und Pflege verantwortlich gestalten
Die zunehmende Technisierung und dabei insbesondere auch die zunehmende Digitalisierung von Pflege und medizinischer Versorgung schafft neuartige ethische und soziale Herausforderungen. Das BMBF-geförderte Verbundprojekt „DESIREE – Decision Support In Routine and Emergency Health Care: Ethical and Social Implications” beschäftigt sich mit solchen Herausforderungen. Die ethischen Herausforderungen betreffen dabei vor allem mögliche unerwünschte Einflüsse neuer Technologien auf die Arzt-Patientenbeziehung, die Autonomie der Patient:innen, die Zurechenbarkeit von Entscheidungen, aber auch auf die Privatheit. Schließlich können mit Blick auf den Zugang zu den entsprechenden Tools und Möglichkeiten auch Probleme der Gerechtigkeit auftreten, wenn zum Beispiel durch die Umstellung auf digitale Prozesse systematisch neue Barrieren für ältere und/oder digital averse Patient:innengruppen geschaffen werden. Die möglichen unerwünschten Folgen (=Risiken) einer Implementierung neuer Technologien im Vorfeld zu detektieren, um dann mit Entwickler:innen, Providern aber auch den Nutzer:innen in Medizin und Pflege mögliche Mitigierungsstrategien zu erarbeiten, ist eine der wichtigsten Aufgaben der Angewandten Medizin und Pflegeethik in der Zukunft. Die Ethik sollte dabei nicht allein „problem seeing“ betreiben, sondern konstruktive Partnerin bei der Mitentwicklung und Implementierung von passgenauen und verantwortbaren technischen Lösungen sein, indem sie u.a. Kriterien für deren Akzeptanz und Akzeptabilität erarbeitet und in den technischen Diskurs einspeist.
Interview mit Prof. Dr. Martin Langanke & Dr.in Wenke Liedtke
Wie werden angehende Mediziner*innen auf ethische Fragestellungen bezüglich der Nutzung von algorithmen-basierten Diagnose- und Therapieentscheidungstools vorbereitet?
Dr.in Wenke Liedtke: Im Moment leider zu wenig. So etwas wie einen Rahmenplan gibt es für dieses Thema in der Ausbildung von angehenden Mediziner:innen und Pfleger:innen nicht. Insofern kann es durchaus sein, dass einige Medizin- und Pflegestudierende sehr gut darauf vorbereitet werden, weil ihre Unterrichtenden ein besonderes Interesse an dem Thema zeigen. Thematisch würde das Aspekte wie ethische und rechtliche Herausforderungen der entsprechenden Tools betreffen, aber auch ganz basal Wissensvermittlung hinsichtlich des Verständnisses und Umgangs mit Statistiken, Wahrscheinlichkeiten und Korrelationen. Denn die Ergebnisse algorithmenbasierter-Unterstützungssysteme sind ohne das Wissen um die Analyse und Interpretation von Wahrscheinlichkeiten nur schwer einzuordnen. Gleichzeitig bedarf es natürlich auch eines informatischen Wissens, das zumindest basal den jeweiligen Studierenden vermittelt werden sollte. Nicht zuletzt ist das nötig, um die Patient:innen angepasst aufzuklären.
Trotz dieses zum gegenwärtigen Zeitpunkt vorhandenen Mangels muss einerseits angemerkt werden, dass das Thema der Ausbildung hinsichtlich der Algorithmennutzung und -forschung voranschreitet.
Wer haftet für Schäden, die durch fehlerhafte Daten und/oder Bedienungsfehler solcher Tools entstehen?
Prof. Dr. Martin Langanke: Im Hinblick auf den Begriff der „Haftung“ ist zwischen rechtlicher und ethischer Zurechenbarkeit zu unterscheiden. Aus der ethischen Fachperspektive bietet es sich an, Fragen der Zurechenbarkeit unter dem Begriff „Verantwortung“ zu diskutieren.
Im Prinzip einfach zu beantworten ist dabei die Frage nach der Verantwortung im Falle echter Bedienfehler. Denn unter den Voraussetzungen, dass a) die bedienende Person angemessen tief geschult wurde und b) der Fehler tatsächlich aus einer fehlerhaften Bedienung eines ansonsten ordnungsgemäß funktionierenden Gerätes resultiert, wird man ethisch die bedienende Person für ggf. falsche Diagnosen oder Therapieentscheidungen verantwortlich zu machen haben.
Vom Prinzip her ähnlich klar erscheint die Situation in dem Fall, dass ein Gerät nicht ordnungsgemäß funktioniert, sondern aufgrund von Hardware- oder Softwaredefekten falsche Outputs produziert. Rechtlich greifen hier ggf. die Prinzipien der Hersteller- und Produkthaftung. Und ganz im Einklang mit diesen Rechtprinzipien wird man auch ethisch in einem solchen Fall Hersteller oder Provider als die primären Träger der Verantwortung angeben können und müssen. Denn sie sind es voraussetzungsgemäß, die den aufgetretenen Fehler kausal verursacht haben.
Qualität der Daten muss frühzeitig überprüft werden
Diffiziler stellt sich das Problem dar, wenn falsche (insbesondere falsch-negative Diagnosen (also das „Übersehen“ krankheitswertiger Befunde) oder falsche Therapieentscheidungen weder Resultat eines Bedienfehlers noch eines Gerätedefekts sind, sondern das genutzte Gerät aufgrund der unzureichenden Qualität der Daten, anhand derer es etwa initial „trainiert“ wurde, systematisch fehlerhafte Outputs generiert. Dieser Fehler muss nämlich im Stadium der Marktreife weder den Herstellern noch den Providern noch den Nutzern bekannt sein, so dass sie für die auftretenden Fehler dann auch ethisch nicht direkt zur Rechenschaft gezogen werden können. Die Qualität der genutzten Datenbasis muss daher im Frühstadium der Entwicklung von IT-gestützten Decision-Support-Systemen stets sehr kritisch überprüft werden. Die ethische Verantwortung fällt hier also ggf. auf die Wissenschaftler und Entwicklerteams zurück. Hier greifen dann in besonderem Maße die wissenschaftlichen Prinzipien der Qualitätssicherung für Daten sowie die Prinzipien der Gerätezulassung, die u.a. die Überprüfung der Outputs eines neuen Gerätes an einem unabhängigen und bereits etablierten Goldstandard vorsehen.
Ähnlich komplex sind aus ethischer Perspektive auch systematische Fehler zu beurteilen, die auf falsch programmierte Algorithmen zurückgehen. Damit sind Fehler gemeint, die nicht im Zuge der Nutzung aufgetretene Defekte im Sinne technisch bedingter unerwünschter Abweichungen vom Auslieferungszustand oder Fertigungsfehler sind, sondern Fehler, die bei ordnungsgemäßer Funktion des Gerätes auftreten, weil in das Gerät von Anfang an Algorithmen „hineinprogrammiert“ wurden, die systematisch zu falschen Outputs führen. Auch hier obliegt es den Wissenschaftlern und Entwicklern, bereits in einem Frühstadium der Entwicklung in Studien an unabhängigen Goldstandards zu testen, ob die Outputs des in der Entwicklung befindlichen Gerätes den Outputs des Goldstandards qualitativ überlegen sind oder nicht.
Steckbrief
Kurzvita
Kurzvita
Weiterführende Links zum Thema oder Projekt
