Wenn Algorithmen unabsichtlich diskriminieren

Es ist zentral, dass Intentionen keinesfalls eine notwendige Bedingung für Diskriminierung darstellen. Und so können eben auch Algorithmen systematisch bestimmte Personengruppen benachteiligen, auch wenn diese Benachteiligung nicht absichtlich programmiert wurde.

Für mehr Infos zu Ursache und Wirkung solcher Machine Biases empfehle ich zwei Quellen:

  1. Den Artikel über „Machine Bias“ bei der Verwendung von Software zur Bestimmung der Wahrscheinlichkeit zukünftiger Straftaten (von 2016).
  2. Und ganz aktuell den Netzpolitik Podcast 178: „Wenn Algorithmen unabsichtlich diskriminieren“ (auf Englisch).