Digitale Diskriminierung: Wenn Algorithmen Ungerechtigkeiten verfestigen

Ferda Ataman

Summary
Willkommen in der Welt der digitalen Diskriminierung, wo Algorithmen Vorurteile einprogrammiert haben und Technologie beginnt, uns zu benachteiligen. Von KI in der Medizin, die nur Männern hilft, bis zu selbstfahrenden Autos, die Schwarze Menschen nicht erkennt und nicht bremst.
Stage 2
Talk
German
Conference

Digitalisierung macht vieles leichter, leider auch Diskriminierung. Stellen Sie sich vor, Sie wollen einen Kredit, bekommen aber eine Absage, weil ein Algorithmus entschieden hat, dass Sie zu alt sind. Oder Sie bekommen den Job nicht, weil ein Algorithmus Frauen Daten mit einer niedrigeren
Erfolgswahrscheinlichkeit verknüpft.

Während Digitalisierung uns viele Annehmlichkeiten gebracht hat, von Online-Shopping bis hin zu vernetzten Haushaltsgeräten, hat sie auch eine dunkle Seite: Maschinen können gesellschaftliche Ungerechtigkeiten verfestigen und verschlimmern. Wenn es kaum Frauen in bestimmten Rollen gibt, wird KI sie auch nicht schaffen.

Das Allgemeine Gleichbehandlungsgesetz verbietet Diskriminierung im Alltag. Was aber, wenn die Diskriminierung vom Computer ausgeht?

Profilbild Ferda Ataman
Unabhängige Bundesbeauftragte für Antidiskriminierung