Die Auswirkungen selbstlernender algorithmischer Entscheidungssysteme und wie man diese mindern kann

Abstract

Selbstlernende algorithmische Entscheidungssysteme treffen Entscheidungen über Menschen, welche wesentliche Auswirkungen auf deren Leben haben. Aufgrund von algorithmischer Voreingenommenheit können diese Entscheidungen bestimmte Personengruppen diskriminieren. In dieser Arbeit werden Fallbeispiele der verheerenden Auswirkungen solcher voreingenommenen Entscheidungssysteme vorgestellt. Folglich liegt der Fokus auf den menschlichen, technischen und rechtlichen Ursachen sowie Lösungen dieser Problemstellung.

Self-learning algorithmic decision systems make decisions about people, which have a significant impact on their lives. Due to algorithmic bias, these decisions can discriminate against certain groups of people. In this paper, case studies with devastating effects of such biased decision systems will be presented. Consequently, the focus is on the human, technical and legal causes as well as solutions to this problem.