Atrox schrieb:Na das ist doch optimal. Betrachtet man den Algorithmus als Black Box kann man auch keinem mehr Rassismus vorwerfen. Könnten dann ja auch ganz andere Merkmale sein.
Das Problem ist nur, dass der Algorithmus nur so gut sein kann, wie die Daten sind, mit dem man ihn füttert. Kommen oben schlechte Daten rein, können unten dann nicht bessere algorithmische Abfolgen rauskommen. Algorithmen stecken de facto schon überall drin, das geht sogar so weit, dass Algorithmen darüber mitentscheiden, ob zB ein Häftling auf Bewährung rauskommt oder nicht. Derartig gesteuerte Programme sind mehr als nur eine "Hilfe" für den Haftrichter.
Das Problem ist dabei die sogenannte "Algorithmic transparency"- sprich wie ist er programmiert und was steckt alles drin. Natürlich kann man (und wird bereits zB durch Merkel persönlich) fordern, alles offen zu legen- nur kommt das dann in der Praxis oft einer de facto Abschaffung von Märkten und Betriebsgeheimnissen gleich.
Kurz gefasst: Wenn wer dem Algorithmus sozusagen mit Rassismus unterlegt, dann kann man zwar nicht unbedingt den amtshandelnden Beamten Rassismus vorwerfen, aber sie handeln dennoch in fragwürdiger Weise.
Ich beschäftige mich mit diesem Thema auf meiner Uni und kann da einiges an Input einbringen. Allerdings ist das wohl der falsche thread dafür- weil das ist ja letztlich im Gesamtkomplex nur ein Teilbereich um den es geht.