Themenfeld Digitalisierung
Digitalisierung ist nicht neutral: Warum Algorithmen Diskriminierung verstärken
Die Digitalisierung durchdringt nahezu alle Lebensbereiche und verändert grundlegend, wie wir arbeiten und leben. Dieser technische Wandel ist nicht geschlechtsneutral. Algorithmen und Künstliche Intelligenz (KI) basieren auf Daten, die von Menschen ausgewählt werden – und erben deren Vorurteile. Da die IT-Branche männlich dominiert ist und Datensätze oft auf der „männlichen Norm“ fußen, entstehen verzerrte Systeme („Data Bias“): Gesichtserkennung funktioniert bei weißen Männern am besten, Spracherkennung scheitert oft an weiblichen Stimmen, und automatisierte Bewerbungsverfahren sortieren Frauen mit Lücken im Lebenslauf (z. B. aufgrund von Sorgearbeit) aus. Zudem dient das Netz als Verstärker für Gewalt: Hassrede trifft Frauen und queere Personen überproportional. Für eine geschlechtergerechte Digitalisierung braucht es daher gleichen Zugang zu Technik für alle (Digital Gender Gap schließen), diversere Entwicklungsteams sowie eine diskriminierungssensible Regulierung algorithmischer Systeme und sozialer Medien.
Data Bias
Da die IT-Branche männlich dominiert ist und Datensätze oft auf einer „männlichen Norm“ fußen, können verzerrte Systeme („Data Bias“) entstehen: Gesichtserkennung funktioniert bei weißen Männern am besten, Spracherkennung scheitert oft an weiblichen Stimmen, und automatisierte Bewerbungsverfahren sortieren Frauen mit Lücken im Lebenslauf (z.B. aufgrund von Sorgearbeit) aus.
Hass im Netz
Hassrede trifft Frauen und queere Personen überproportional. Digitale Plattformen bilden dabei gesellschaftliche Ungleichheiten ab und können diese sogar verstärken. Hass im Netz trifft nicht nur die Betroffenen unmittelbar, sondern schreckt Menschen – besonders junge Frauen – davon ab, sich online zu äußern oder aktiv zu beteiligen. Dadurch wird ihre Teilhabe am öffentlichen Diskurs eingeschränkt.
Algorithmische Systeme und Künstliche Intelligenz
Algorithmen sind Rechenverfahren in Computersystemen, die eingegebene Daten verarbeiten und wiederum Daten produzieren; viele davon bilden komplexe Systeme. Systeme der Künstlichen Intelligenz (KI) sind lernende Algorithmen, die menschliche Entscheidungsprozesse nachahmen. Algorithmen und KI basieren auf Daten, die von Menschen ausgewählt werden – und erben deren Vorurteile.