bei allem, was Recht ist!
Die Juristerei

Wenn der Algorithmus diskriminiert

Wenn der Algorithmus diskriminiert

Können auch Algorithmen diskriminieren? Dieser Frage gehen die Rechtsanwälte Dr. Boris Dzida und Dr. Naemi Groh in ihrem kürzlich in der NJW erschienen Aufsatz nach. Dabei begeben sich die beiden Autoren auf die Suche nach Diskriminierungen, die nicht vom Mensch, sondern von der Maschine ausgehen und erweitern das Blickfeld des AGG in Richtung digitale Welt.

Gerade bei Bewerbungsverfahren seien Algorithmen zur Berwerberauswahl auf dem Vormarsch. Und genau hier könnten diese Algorithmen so programmiert sein und funktionieren, dass bestimmte Bewerber benachteiligt werden. Den Grund für die benachteiligende Auswahl bzw. Ergebnisse machen die Autoren in fehlerhaften Datenquellen und falschen Programmierungen aus. So kommt es, dass die vermeintlich objektive Auswahl durch Algorithmen diskriminierend sein kann wie die subjektive Auswahl durch einen Menschen. Die Folge sind Entschädigungsansprüche nach dem Antidiskriminierungsgesetz.

Den Algorithmus überführen

Problematisch dürfte in diesem Zusammenhang allerdings die Beweisführung sein. Da die Berechnungen und Funktionsweise der Algorithmen für Außenstehende und teilweise sogar den Anwender selbst undurchsichtig sind, wird es äußerst schwierig sein, die diskriminierende Wirkung eines Algorithmus zu identifizieren und nachzuweisen. Hier sehen die Autoren selbst die Beweiserleichterung nach § 22 AGG an ihre Grenzen stoßend.

Letztlich sind Algorithmen nicht besser als ihre Programmierung und Datengrundlage. Da beides aber aus der realen Welt abgeleitet wird, kommt es auch weiterhin bei der digitalen Bewertung von Bewerbern unweigerlich zu Benachteiligungen. Umgehen lässt sich das Problem wohl kaum. Eine bewusst diskriminierungsfreie Programmierung auf einer möglichst bereinigten Datenbasis ist nur schwer umsetzbar, wenngleich die Autoren auf bereits vorhandene Softwarelösungen hinweisen.

 

Basierend auf: Dzida/Groh, Diskriminierung nach dem AGG beim Einsatz von Algorithmen im Bewerbungsverfahren, in: NJW 2018, 1917 ff.

This website stores some user agent data. These data are used to provide a more personalized experience and to track your whereabouts around our website in compliance with the European General Data Protection Regulation. If you decide to opt-out of any future tracking, a cookie will be set up in your browser to remember this choice for one year. I Agree, Deny
590