„KI und Human-Centric Entscheidungsfindung: Geht das? Welche Rolle hat der Mensch?“: Rückblick auf die Ringvorlesung „Automatisierte Systeme“ mit Frau Prof. Dr. Ing. habil. Sanaz Mostaghim
Am 25.04.2023 fand erneut eine Veranstaltung im Rahmen der Ringvorlesung „Automatisierte Systeme“ statt. Hierzu hatten der Lehrstuhl für Zivilrecht, Europäisches und Internationales Wirtschaftsrecht (Prof. Dr. Buck-Heeb) und der Lehrstuhl für Deutsches, Europäisches und Internationales Zivil- und Handelsrecht (Prof. Dr. Dr. h.c. Oppermann) zusammen mit dem Interdisziplinären Institut für Automatisierte Systeme e.V. (RifaS) eingeladen.
Die Ringvorlesung „Automatisierte Systeme widmete sich diesmal dem Thema von „KI und Human-Centric Entscheidungsfindung“. Die Referentin, Frau Sanaz Mostaghim fokussierte dabei die Fragen, ob das geht und welche Rolle der Mensch dabei hat.
Zunächst führte Frau Prof. Dr. Susanne Beck in die Thematik von Künstliche Intelligenz (KI) und Recht ein und berichtete dabei aus ihrem Forschungsprojekt zur rechtlichen Analyse von KI-gesteuerten Entscheidungsunterstützungssystemen. Deutlich wurde hier, wie schon in zahlreichen vergangenen Veranstaltungen der Ringvorlesung, die erhebliche Bedeutung der interdisziplinären Forschung.
Werden lernende Systeme für die Entscheidungsfindung eingesetzt, könne es trotzdem zu falschen Entscheidungen kommen. Das führe zu der Frage nach der Verantwortlichkeit hierfür. Aus diesem Grund sollte nach Ansicht von Frau Prof. Beck stets der Mensch in der „Entscheidungsschleife“ integriert bleiben („human in the loop“). Es bedürfe einer bedeutsamen menschlichen Kontrolle („meaningful human control“). Insofern stelle sich die Frage, wie KI gestaltet werden muss, dass der Mensch sinnvoll verantwortlich gemacht werden kann. Dafür brauche es Lösungen aus dem Fachbereich der Informatik.
An diese einleitenden Ausführungen knüpfte sodann der Vortrag von Frau Prof. Mostaghim an. Die Referentin ist Informatikprofessorin und Gründerin und Leiterin des SwarmLabs an der Fakultät für Informatik der Otto-von-Guericke-Universität Magdeburg. Ihr Forschungsschwerpunkt liegt in Bereich der multikriteriellen Optimierung und Entscheidungsfindung, der evolutionären Algorithmen, der kollektiven Entscheidungsfindung sowie deren Anwendung in Robotik und Naturwissenschaften.
Auch sie betont, dass der Mensch ins Zentrum der Entscheidungsfindung genommen werden müsse. Evolutionäre Algorithmen würden komplexe Entscheidungen mit bis zu 1000 Variablen ermöglichen. Die Besonderheit sei, dass diese mit Mutationen arbeiten. Sie würde eine zufällige Population kreieren, die von dem Algorithmus im nächsten Schritt bewertet und die am wenigsten passenden Lösungen eliminiert werden. Dieser Prozess laufe immer wieder ab. Die Algorithmen seien darauf ausgerichtet mehrere Lösungen mit gleicher Qualität zu erzeugen. Der Mensch entscheide dann zwischen den Alternativen.
Hervorgehoben wurden die zahlreichen Anwendungsfelder der evolutionären Algorithmen. Sie könnten zum Beispiel zur Modellierung einer Pandemie genutzt werden und verschiedene Vorschläge zu Strategien machen. Sie würden auch bei autonomen Fahrzeugen und Robotern eingesetzt. Gerade in diesem Bereich brauche es eine Kooperation mit der Rechtswissenschaft, um autonome Systeme rechtssicher und moralisch zu gestalten.
Über die Ringvorlesung "Automatisierte Systeme"
Nähere Informationen über die Ringvorlesung "Automatisierte Systeme" sowie weitere Rückblicke auf vergangene Veranstaltungen finden Sie hier.
Über das Interdisziplinäre Institut für Automatisierte Systeme e.V. (RifaS)
Das Institut wurde im Herbst 2017 gegründet und steht für eine interdisziplinäre, nationale und internationale Forschung in verschiedenen Bereichen automatisierter Systeme. Die Forschungsbereiche lassen sich in Verkehr und Mobilität, Produktion und Wirtschaft sowie Medizin unterteilen. Das Institut bringt sowohl Wissenschaftler als auch Praktiker zusammen und ist nicht nur in der Forschung aktiv, sondern auch in der Lehre.
Informationen zu aktuellen Veranstaltungen finden sich stets auf www.rifas.de.
