vALID

Gesamtprojekt

Das Projekt vALID unternimmt eine normative, rechtliche und technische Analyse der Frage, wie KI-gesteuerte klinische Entscheidungsunterstützungssysteme mit dem Ideal der Arzt- und PatientInnenensouveränität in Einklang gebracht werden können. Es untersucht, wie Konzepte von Vertrauenswürdigkeit, Transparenz, Akteurschaft und Verantwortung durch klinische KI beeinflusst und verschoben werden - sowohl auf theoretischer Ebene als auch im Hinblick auf konkrete moralische und rechtliche Konsequenzen. Die Analyse basiert auf einer empirischen Fallstudie, welche anhand von Mock-up-Simulationen KI-getriebener, klinischer Entscheidungsunterstützungssysteme systematisch die Einstellung von ÄrztInnen und PatientInnen zu einer Bandbreite von Designs und Implementierungen erfasst. Ein wesentliches Ergebnis von vALID wird eine Governance-Perspektive für KI-getriebene Entscheidungsunterstützungssysteme im Rahmen gemeinsamer klinischer Entscheidungsfindung sein. Solche Systeme profitieren von schnellen Fortschritten im Bereich der Künstlichen Intelligenz und bergen Potentiale zur Verbesserung der klinischen Versorgung. Die momentane Geschwindigkeit der Entwicklungen und die Komplexität der Technologie drohen jedoch die allgemeine gesellschaftliche Debatte sowie Überlegungen zu ethischen und rechtlichen Aspekten zu vernachlässigen. Darüber hinaus stellen sie die Kommunikationsmodi zwischen den Nutzern (z.B. ÄrztInnen, PatientInnen, Pflegepersonal) in Frage und setzen in diesen Stakeholdern bereits ein gewisses Maß an digitaler Kompetenz voraus. Angesichts dieser Herausforderungen zielt die vALID-Governance-Perspektive darauf ab, in der Praxis Wirkung zu zeigen, indem sie politischen Entscheidungsträgern und Aufsichtsbehörden Empfehlungen an die Hand gibt.

Teilprojekt

Das vALID-Team der Universität Hannover (Lehrstuhl für Strafrecht, Strafprozessrecht, Strafrechtsvergleichung und Rechtsphilosophie von Prof. Dr. Susanne Beck) beschäftigt sich im Rahmen des Projekts mit rechtlichen Fragen der durch künstliche Intelligenz gestützten Entscheidungsfindung im klinischen Bereich. Gerade bei medizinischen Entscheidungen spielen Transparenz und klare Verantwortungsverteilung eine zentrale Rolle. Nur so lassen sich Handlungsmacht der Ärzte und Selbstbestimmung der Patienten soweit wie möglich garantieren. Der Einfluss von KI auf die Entscheidungsfindung verändert unser bisheriges Verständnis dieser Konzepte. Zur genaueren rechtlichen Betrachtung dieser Problematik wird im vALID-Projekt in einem ersten Schritt der rechtliche Status Quo bezüglich des Einsatzes von KI im Rahmen von medizinischen Entscheidungen erarbeitet. Anschließend werden Lösungsansätze identifiziert und diese auch mit Blick auf andere Rechtskulturen betrachtet. In engem Austausch mit den Projektpartnern werden die empirischen Ergebnisse rechtlich bewertet und mit den ethischen Überlegungen verknüpft. Im Mittelpunkt steht daher die Ausarbeitung adäquater Praktiken für medizinische Entscheidungen mit Hilfe von KI-Systemen, welche auch weiterhin eine Zuschreibung rechtlicher Verantwortung unter gleichzeitiger Wahrung der Patientenautonomie erlauben. Eines der wichtigsten Ziele ist es, zusammen mit den Projektpartnern geeignete Richtlinien zur Schaffung neuer gesetzlicher Regelungen für den Einsatz von KI im medizinischen Kontext zu entwickeln.