Diskriminierung durch KI - Ursachen und Prüfansätze am Beispiel Strafverfolgung

Abstract

Diese Literaturarbeit setzt sich mit den negativen Auswirkungen von KI auseinander. Anhand von Anwendungsbeispielen in der Strafverfolgung, wie z.B. Facial Recognition Technology oder Predictive Policing, wird nach Belegen für Diskriminierung gesucht und deren Ursachen herausgearbeitet. Aus den anwendungsbezogenen Erkenntnissen werden anschließend allgemeine Aussagen zu den Ursachen von Diskriminierung abgeleitet. Ergänzend dazu wird ein Explainable AI Ansatz vorgestellt, der bei der Aufdeckung von Diskriminierung helfen kann.

This literature research is discussing the negative consequences of AI. On the basis of applications in the field of law enforcement, e.g. facial recognition technology or predictive policing, research is done for proving discrimination and its causes. These practice-related findings will be used to make genereal conclusions about the causes of discrimination. Additionally, there will be an explainable ai method introduced which can be used to test for discrimination.