BIAS – Bias and Discrimination in Big Data and Algorithmic Processing. Philosophical Assessments, Legal Dimensions, and Technical Solutions

Das Projekt: BIAS

Die algorithmische Verarbeitung von großen Datenmengen findet unter anderem in der Bewerberauswahl, der Kreditvergabe und zur Prognose auch in sensiblen gesellschaftlichen Bereichen wie der Verbrechensbekämpfung Anwendung. Über Suchmaschinen, soziale Netzwerke und Werbeeinblendungen kann die algorithmische Datenverarbeitung die Wahrnehmung politischer Entwicklungen und Kaufentscheidungen beeinflussen. Zunehmend kommen dabei auch Algorithmen des maschinellen Lernens zum Einsatz, die bewährte rechtliche Grundsätze vor neue Herausforderungen stellen, etwa weil ihre Ergebnisse für die von ihnen Betroffenen schwer nachvollziehbar sind. 

Obwohl die auf diese Datenverarbeitung gestützten Entscheidungen auf den ersten Blick durch ihren technischen Hintergrund besonders objektiv und ausgewogen erscheinen, stellen Forschungsansätze die Qualität von algorithmischen Bewertungen in Frage. Insbesondere gibt es Hinweise darauf, dass sich Diskriminierungen durch den Einsatz von Algorithmen verstärken können. 

Im Rahmen des Projektes sollen die Risiken von Verzerrungen und Diskriminierungen in der Datenverarbeitung analysiert werden und Konzepte zur Bewältigung selbiger entwickelt werden. 

Durch das interdisziplinäre Forschungskonzept sollen anhand der technischen, philosophischen und rechtswissenschaftlichen Analyse der Risiken algorithmischer Datenverarbeitung Ansätze zur Verwirklichung ethischer und zur Einhaltung rechtlicher Standards entwickelt werden.

Das Institut für Rechtsinformatik ist im Rahmen des Projektes damit betraut, den Einfluss von Datenschutz-, Verbraucherschutz-, Wettbewerbs- und Antidiskriminierungsrecht auf die Risiken algorithmischer Datenverarbeitung zu untersuchen.