Patientsein mit KI: Eine Einführung in zentrale ethische Herausforderungen von Frau Prof. Dr. med. Dr. phil. Sabine Salloch (Medizinische Hochschule Hannover)
Am 04. Juli 2023 fand erneut eine Veranstaltung im Rahmen der Ringvorlesung „Automatisierte Systeme“ statt. Hierzu hatten der Lehrstuhl für Zivilrecht, Europäisches und Internationales Wirtschaftsrecht (Prof. Dr. Buck-Heeb) und der Lehrstuhl für Deutsches, Europäisches und Internationales Zivil- und Handelsrecht (Prof. Dr. Dr. h.c. Oppermann) zusammen mit dem Interdisziplinären Institut für Automatisierte Systeme e.V. (RifaS) eingeladen.
Die Ringvorlesung widmete sich diesmal dem Thema vom Einsatz von Künstlicher Intelligenz (KI) in der Medizin und welche Rolle diese für Patienten* spielt. In der Medizin werden schon KI-basierte Systeme eingesetzt, insbesondere in der Radiologie, aber auch die Augenheilkunde und Dermatologie.
Eine Herausforderung beim Einsatz von KI stellt die Berücksichtigung der Patientenautonomie dar. Es gibt KI-basierte Systeme, die Therapie-Vorschläge machen. Trainiert wurden die Algorithmen mit Patientendaten und vorherigen Therapie-Vorschlägen von führenden Ärzten. Bei Algorithmen gäbe es inhärente Werturteile, die in der Regel verdeckt bleiben, so zB hinsichtlich des Spannungsfelds der Überlebensdauer und der Lebensqualität. Ein Arzt könne besser auf die Patientenwünsche eingehen und diese in seinen Therapievorschlag einbeziehen. Bei KI-Systemen bestehe die Gefahr des „Computer-Paternalismus“, also ein medizinisches Handeln, welches ohne Berücksichtigung des Patientenwillens auf das Wohl des Patienten abzielt. Es brauche deshalb eine „werteflexible KI“. Zudem kommt es darauf an, wie die KI eingesetzt wird. Bei einem Einsatz als decision support system kann sie in die Beziehung zwischen Arzt und Patient integriert werden. Der Arzt kann so auf den Patientenwillen eingehen und die Patientenautonomie gewährleisten. Auch erscheint es sinnvoll, wenn die KI offenlegt, welche Faktoren bei der Entscheidungsfindung ausschlaggebend waren.
Ein weiterer Aspekt ist die Frage, ob Patienten über den Einsatz von künstlicher Intelligenz aufgeklärt werden müssen. Gerade im Hinblick darauf, dass Patienten grundsätzlich Diagnostikmethoden und Behandlungen ablehnen dürfen, erscheint es nur logisch, dass sie natürlich auch den Einsatz von KI-Systemen ablehnen dürfen. Dafür müssten sie jedoch über den Einsatz informiert sein. Ein nachvollziehbarer Grund einen KI-Einsatz abzulehnen wäre beispielsweise, wenn ein Patient davon ausgeht, dass er in den Patientendaten nicht ausreichend repräsentiert war, sodass eine erhöhte Gefahr für fehlerhafte Ergebnisse der KI besteht. Jedoch ist fraglich, ob und in wie weit überhaupt in der Zukunft Nicht-KI-Systeme zur Verfügung stehen. Es ist davon auszugehen, dass diese in Zukunft ersetzt werden. Die Frage der Aufklärungspflicht wurde im Plenum lebendig diskutiert. Dabei wurde vertreten, dass über den Einsatz von KI-Systemen nur aufgeklärt werden müsse, wenn diese nicht „medizinischer Standard“ seinen. Nur wenn es sich um noch keinen Standard handle sei eine Aufklärung und Einwilligung nötig. Eine Aufklärung über jeglichen Einsatz von KI sei im Klinikalltag auch schwer umzusetzen. Schon heute sind einige Systeme KI-unterstützt. Ärzte würden viele und technisch komplexe Aufklärungspflichten treffen.
Frau Prof. Dr. Dr. Salloch hielt abschließend fest, dass das Verhältnis von Mensch und Technik im Hinblick auf KI nicht als kompetitiv verstanden werden solle. Es kommt darauf an, wie KI sinnvoll unterstützend in den Klinikalltag integriert werden kann.
Über die Ringvorlesung "Automatisierte Systeme"
Nähere Informationen über die Ringvorlesung "Automatisierte Systeme" sowie weitere Rückblicke auf vergangene Veranstaltungen finden Sie hier.
Über das Interdisziplinäre Institut für Automatisierte Systeme e.V. (RifaS)
Das Institut wurde im Herbst 2017 gegründet und steht für eine interdisziplinäre, nationale und internationale Forschung in verschiedenen Bereichen automatisierter Systeme. Die Forschungsbereiche lassen sich in Verkehr und Mobilität, Produktion und Wirtschaft sowie Medizin unterteilen. Das Institut bringt sowohl Wissenschaftler als auch Praktiker zusammen und ist nicht nur in der Forschung aktiv, sondern auch in der Lehre.
Informationen zu aktuellen Veranstaltungen finden sich stets auf www.rifas.de.
*Zur besseren Lesbarkeit wird das generische Maskulinum verwendet. Die verwendeten Personenbezeichnungen beziehen sich – sofern nicht anders kenntlich gemacht – auf alle Geschlechter.
