Am 7. November 2023 fand erneut eine Veranstaltung im Rahmen der Ringvorlesung „Automatisierte Systeme“ in hybrider Form statt. Hierzu hatten der Lehrstuhl für Zivilrecht, Europäisches und Internationales Wirtschaftsrecht (Prof. Dr. Buck-Heeb) und der Lehrstuhl für Deutsches, Europäisches und Internationales Zivil- und Handelsrecht (Prof. Dr. Dr. h.c. Oppermann) zusammen mit dem Interdisziplinären Institut für Automatisierte Systeme e.V. (RifaS) eingeladen.
Dieses Mal konnte Herr Prof. Dr. Tim Dornis, Inhaber des Lehrstuhls für Bürgerliches Recht und Gewerblichen Rechtsschutz an der Leibniz Universität sowie Global Professor of Law an der NYU School of Law in Paris/New York, als Referent gewonnen werden. Thematisch befasste sich Prof. Dornis mit dem Phänomen künstlich-intelligenter Systeme beim Abschluss von Verträgen. Als Beispiele können – zumindest im Rahmen einer Zukunftsbetrachtung, wenn auch noch nicht real umgesetzt – Agenten auf Online-Marktplätzen oder die sog. Robo Advisors auf den Finanzmärkten genannt werden. Sie könnten künftig ggf. die vertragsrelevanten Umstände ermitteln und bewerten sowie sodann die Einigung mit dem Vertragspartner bewirken. Auch ein aktives Verhandeln mit dem vertraglichen Gegenüber bzgl. der konkreten Vertragsinhalte erscheint angesichts von Chatbots wie ChatGPT nur eine Frage der Zeit.
Spannend wird es, wenn die eingesetzte Technik selbstlernend ist, d.h. nicht nur (wie bislang) eine Bestellhilfe oder eine online-Bestellfunktion wie dies etwa bzgl. Druckerpatronen schon aktuell ist vorliegt. Der Mensch hat in solchen Fällen typischerweise keine Kontrolle mehr über die konkreten Transaktionen. Schließlich handelt die KI in diesen Konstellationen autonom und unabhängig von menschlicher Steuerung. Insofern stellt sich die Frage nach einem autonomen Vertragsschluss.
Unklar ist schon die Einordnung eines solchen KI-Verhaltens in die Strukturen des Vertragsrechts. Die dabei auftauchenden Fragen sind so zahlreich wie ungeklärt: Kommt ein Vertrag zustande? Wer sind die Vertragsparteien? Was soll bei KI-Fehlfunktionen gelten? Nach einer Darstellung der unterschiedlichen Ansichten in der wissenschaftlichen Literatur unterbreitete der Referent seinen eigenen Lösungsansatz. Seiner Ansicht nach sind die Fälle rund um die „vertragsschließenden“ autonomen smarten Geräten über eine Vertrauens- und Rechtsscheinhaftung nach § 172 Abs. 2 BGB analog zu lösen. Es liege eine planwidrige Regelungslücke vor, die durch die Anwendung jener geschlossen werden könne. Der Vertrauenstatbestand könne durch einen Rechtsschein nach „üblichen Gepflogenheiten“ (Rechtsgedanke des § 56 HGB) entstehen.
Die praktischen Konsequenzen dieser Ansicht führte Prof. Dornis sodann anhand von zwei Fallbeispielen vor. Der erste Fall bezog sich auf typische künftige Szenarien des KI-Einsatzes, etwa auf Plattformen. Hier werde idR eine Vorweg-Vereinbarung über die rechtsgeschäftliche Geltung des KI-Verhaltens erfolgen, was regelmäßig durch der AGB-Kontrolle unterliegenden AGBs geschehen wird. Damit ergeben sich hier keine weiteren offenen Zurechnungs- bzw. Haftungsfragen.
Der zweite Fall betrifft atypische Szenarien, wie etwa KI-Systeme, die im „Online-Alleingang“ tätig werden. Nur in solchen (Ausnahme-)Fällen sei das Abstellen auf die Vertrauens- und Rechtsscheinhaftung relevant. Rechtssicherheit könne hier durch die Aufforderung zur Erklärung des Gegenübers über die Geltung der KI-Erklärung geschaffen werden (arg. e §§ 108 Abs. 2 S. 2, 177 Abs. 2 S. 2 BGB). Konkret: Die KI legt offen, dass sie KI ist und verlangt eine „Zustimmung“ des Gegenübers.
An den Vortrag schloss sich eine rege Diskussion an. Dabei wurden u.a. das Autonomierisiko sowie die Gefahren für die Privatautonomie thematisiert. Angesprochen wurde auch das Phänomen des „algorithmic consumers“ und wettbewerbsrechtliche Aspekte. Wer sich noch intensiver über die o.g. Thematik informieren möchte, sei auf den Aufsatz von Prof. Dornis im AcP 223 (2023), 717 ff. verwiesen.
Über die Ringvorlesung "Automatisierte Systeme"
Nähere Informationen über die Ringvorlesung "Automatisierte Systeme" sowie weitere Rückblicke auf vergangene Veranstaltungen finden Sie hier.
Über das Interdisziplinäre Institut für Automatisierte Systeme e.V. (RifaS)
Das Institut wurde im Herbst 2017 gegründet und steht für eine interdisziplinäre, nationale und internationale Forschung in verschiedenen Bereichen automatisierter Systeme. Die Forschungsbereiche lassen sich in Verkehr und Mobilität, Produktion und Wirtschaft sowie Medizin unterteilen. Das Institut bringt sowohl Wissenschaftler als auch Praktiker zusammen und ist nicht nur in der Forschung aktiv, sondern auch in der Lehre.
Informationen zu aktuellen Veranstaltungen finden sich stets auf www.rifas.de.