In der Ringvorlesung „Automatisierte Systeme“ am 10. Dezember 2019 hielt Frau Prof. Dr. Beck einen Vortrag zum Thema „ KI und die Notwendigkeit bedeutsamer Kontrolle durch den Menschen“. Das Interdisziplinäre Institut für Automatisierte Systeme e.V. (RifaS) hatte zusammen mit dem Lehrstuhl für Zivilrecht, Europäisches und Internationales Wirtschaftsrecht (Prof. Dr. Buck-Heeb) und dem Lehrstuhl für Deutsches, Europäisches und Internationales Zivil- und Handelsrecht (Prof. Dr. Oppermann) zu dieser Veranstaltung eingeladen.
Herr Professor Oppermann, in seiner Funktion als Direktor von RifaS, eröffnete die Veranstaltung mit einer Begrüßung der zahlreichen Zuhörer und einer kurzen Vorstellung des Vereins. Die Tätigkeitsfelder des Vereins, erstrecken sich über vielfältige Themengebiete, wie Verkehr und Mobilität, Produktion und Wirtschaft sowie Medizin, in denen automatisierte Systeme eine immer größere Rolle spielen.
Frau Professorin Beck, begann ihren Vortrag mit einer Bestandsaufnahme. Hinter KI stecke, bislang zumindest, selbstlernende Systeme, die in ihrer Programmierung nicht mehr dem bekannten „wenn-dann“ Muster folgen, sondern aus großen Datenmengen eigenständig Korrelationen und Muster erkennen können.
Die Einsatzgebiete sind dabei so vielfältig wie die Tätigkeitsfelder von RifaS selbst. Neben der automatisierten Kreditvergabe zählen auch die Bewerberauswahl in Unternehmen oder der Einsatz von Waffensystemen dazu. Hinzu kommen unterschiedliche Abstufungen von KI. So sind von der reinen Beratung bis hin zu vollständig autonomen Entscheidungen alle Grade denkbar.
Frau Professorin Beck wählte daraufhin drei unterschiedliche Beispiele aus, in denen KI zukünftig Probleme bereiten könnte. Die Genforscherin, die aufgrund einer unrichtigen Diagnose durch KI eine falsche Therapie verschrieb; die Bewerberin, die durch die vermeintlich objektive, datenbasierte Entscheidung der KI diskriminiert wurde; der Autofahrer, welcher durch die KI am Rechtsbruch gehindert wird. Alle drei Szenarien warfen unterschiedliche Probleme auf, dessen potentielle Lösungsansätze die Referentin skizzierte.
Gemein war den Szenarien das Problem der Verantwortlichkeit, die sich entweder unklar gestaltete oder sogar völlig aufgelöst wurde. Ein „human in the loop“ als Haftungsknecht oder sogar Rechtsbereiche, in denen es keine strafrechtliche Verantwortung mehr gibt, wären mögliche Ansätze, die die Referentin ansprach und Folgeprobleme benannte.
Frau Professorin Beck betonte insbesondere die mangelnde Transparenz von KI. Die Vorstellung, dass KI objektive Entscheidungen träfe, löst bei den Menschen ein falsches Vertrauen aus, denn die Korrelationen, die KI erkennt, basieren auf Daten, die ihrerseits schon diskriminierend sein können. Ein transparenteres System würde diese Abhängigkeiten zumindest aufdecken und die Möglichkeit eröffnen, der Korrelation auch eine Kausalität hinzuzufügen.
Zuletzt thematisierte die Referentin das Phänomen der „Impossibility Structures“, bei denen ein rechtsbrechendes Verhalten unmöglich ist. Dieses birgt einerseits die Gefahr, dass Devianz, die auch Fortschritt erzwingen kann, nicht mehr möglich ist. Andererseits wirft es die Frage auf, ob ein „Recht auf Rechtsbruch“ besteht.
Unter Berücksichtigung dessen, dass nicht alle Szenarien mit einem einheitlichen Instrument gelöst werden können, vertrat Frau Professorin Beck die Ansicht, dass es in allen Einsatzgebieten von KI der „bedeutsamen“ (meaningful) Kontrolle durch den Menschen bedarf. Diese soll kein einfaches Bestätigen der Entscheidung der KI sein, sondern das Funktionieren von KI und Mensch zusammen beschreiben. Das bedeutet auch, dass man sich der Einschränkungen, die KI mit sich bringt, bewusst ist und diese in bestimmten Bereichen hinnimmt.
In der anschließenden angeregten Diskussion dankten die Diskutanten zunächst allesamt Frau Professorin Beck für ihren Vortrag und warfen unterschiedlichste Aspekte auf. Die Diskussion führte unter anderem zu weiteren interessanten Fragestellungen wie Notstandsrechte gegen KI oder der Besonderheit von individueller Verantwortung im Zivilrecht und im öffentlichen sowie Strafrecht und stellte einen gelungenen Abschluss der Ringvorlesung „Automatisierte Systeme“ für das Jahr 2019 dar.
Verfasst von Dipl.-Jur. Corvin Hennig.
