Forschung: IT diversitätsgerecht gestalten

Equity in AI

"Unter dem Euphemismus künstliche Intelligenz (KI) wird die Entscheidungsfindung in immer mehr Lebensbereichen (teil-)automatisiert. Wenn Algorithmen bei Stellenbesetzungen und Beförderungen sowie bei der Vergabe von Krediten und der Beitragsbemessung in der Krankenversicherung mitentscheiden, dann wird die Frage der (Un-)Parteilichkeit von Computeralgorithmen unvermeidlich. Tatsächlich sind zahlreiche dieser Algorithmen unfair, ohne dass dies bei der Entwicklung so beabsichtigt ist. Denn da die zukünftigen, automatisierten Entscheidungen bei einer KI auf Datensätzen der Vergangenheit basieren (etwa alte Entscheidungen zu Einstellungen/Beförderungen) und Voreingenommenheiten der damaligen, menschlichen Entscheidungspersonen z. B. aufgrund des (wahrgenommenen) Geschlechts, der Hautfarbe oder der sexuellen Orientierung in diesen Vergangenheitsdaten enthalten sind, diskriminiert dann auch die KI bei den neuen Entscheidungen. Wie kann solch eine Diskriminierung zuverlässig erkannt und verhindert werden? Fairness in Computing hat nicht nur sicherzustellen, dass automatisierte Entscheidungen transparent und nachweisbar unvoreingenommen sind in Bezug auf Gender und andere Diskriminierungsdimensionen, sondern fragt auch danach, welchen Zweck diese Automatisierung eigentlich verfolgt und welche Ziele in der IT fair sind." [aus Hühne 2019]

"KI tatsächlich sozial nachhaltig und diskriminierungsfrei zu gestalten [...] erfordert eine mit Technikentwicklung verknüpfte Reflexion auf mögliche diskriminierende Effekte. Zu zeitgemäßem Wissen über Technik gehören daher Erkenntnisse der Gender- und Postcolonial Studies in der Informatik, Grundlagen der Zweigeschlechtlichkeits- und Dualismuskritik ebenso wie Ansätze kritischer Technikgestaltung und -philosophie." [aus Bath / Hühne 2019]

Aktivitäten / Veröffentlichungen zu Equity in AI:

Wie kann / wie soll Informatik damit umgehen, dass es mehr als zwei Geschlechter gibt?

"'Divers' ist nach der Änderung des Personenstandsgesetzes im Dezember 2018 nun auch in Deutschland als dritte, gleichberechtigte Eintragsmöglichkeit für das Geschlecht rechtlich etabliert, neben 'Mann' und 'Frau'. Und gesellschaftlich ist das Geschlechterbild sowieso schon lange im Wandel. Was bedeutet dieser Umbruch für Unternehmen? Welche Aufgaben, Herausforderungen und Gestaltungsmöglichkeiten ergeben sich daraus für die IT-Systeme und IT-Prozesse?"

"Da sich die Annahme von Zweigeschlechtlichkeit tief durch die Abläufe im Unternehmen zieht − und damit auch durch die IT-Prozesse und Datenmodelle − reicht es nicht, einfach nur IT-Oberflächen und Datenbanken anzupassen. Kundenanreden wie 'Sehr geehrter Herr' stehen oft direkt fest im Quellcode."

"Darüber hinaus sind auch die Daten der Mitarbeitenden im Unternehmen selbst zu betrachten, inklusive externer Schnittstellen zu Sozialversicherungsträgern und zum Finanzamt. Altsysteme codieren häufig das Geschlecht in Identifiern oder machen Annahmen über das Geschlecht des Ehepartners." [diese Absätze jeweils aus Breitenstein/Hühne 2019]


Beispiel für eine diversitätsfreundliche Datenabfrage jenseits binärer Geschlechtszuweisung.


Aktivitäten / Veröffentlichungen zu geschlechtergerechter IT:

Externe Links:

Quellenangeben zu den Texten auf dieser Seite:

  • Corinna Bath, RyLee Hühne, KI-Studiengänge & soziale Nachhaltigkeit: Gender- und Diversitätsgerechtigkeit von IT-Systemen in KI-Lehrplänen verankern!, Frauen machen Informatik, Magazin der GI Fachgruppe Frauen und Informatik, Band 43, Heft September 2019, Seite 42.
  • Cornelia Breitenstein, RyLee Hühne, Workshopankündigung für den Fachtag "Gender in algorithmischen Systemen", Netzwerk "Gender. Wissen. Informatik.", TU München, 25.04.2019.
  • RyLee Hühne, Vorstellung im Netzwerk Journal 44 (2019), p. 19f



zurück zu Hühne / Forschung