Entscheidungen von Computerprogrammen erscheinen faktenbasiert, objektiv und neutral. Tatsächlich aber trifft Künstliche Intelligenz (KI) immer wieder problematische oder diskriminierende Entscheidungen – etwa wenn bei der Bestimmung der Rückfallwahrscheinlichkeit von Straftätern mit einer bestimmten Hautfarbe schlechtere Prognosen erhalten als Menschen mit einer anderen Hautfarbe.
Frau Prof. Dr. Beck hat im Rahmen der Jahreskonferenz der Plattform Lernende Systeme am 3. Juli in Berlin ein kurzes Interview gegeben, das die Problematik von diskriminierender KI veranschaulicht. Das Interview können Sie sich auf Youtube ansehen.
Frau Beck ist Mitglied der Arbeitsgruppe Recht und Ethik, die im Rahmen der Veranstaltung ein Whitepaper präsentiert hat, das die Ursachen und Formen von Diskriminierung analysiert und Lösungsansätze aufzeigt.
Unter anderem fordern Frau Beck und ihre Kolleginnen und Kollegen darin eine unabhängige Kontrollinstanz, um die Erklärbarkeit und Überprüfung von Algorithmen zu fördern. Mehr erfahren Sie in einem Beitrag der Plattform Lernende Systeme.
