Maximilian Uhlig
Gender, biased? – Wie sexistisch sind Sprachmodelle?

Sprachmodelle werden in immer mehr Bereichen unseres Lebens eingesetzt. Sie schreiben Service-E-Mails, bewerten Lebensläufe und chatten mit uns. Doch als Technologie, die mit Texten von Menschen trainiert wird, übernimmt sie deren - oft unbewussten - Vorurteile. Das ist problematisch, wenn Sprachmodelle zur Automatisierung von Entscheidungsprozessen eingesetzt werden oder wenn zum Beispiel aus "Nurse" (das im Englischen für beide Geschlechter verwendet wird) in einer Übersetzung zu "Krankenschwester" statt "Pflegekraft" wird.

Daher wird in diesem Projekt untersucht, ob diese Verzerrungen reduziert werden können, wenn in den Trainingsdaten jeder Satz um einen Satz im generischen Femininum ergänzt wird. Mehr dazu erfahrt ihr an meinem Stand in K1.01. Außerdem könnt ihr mit dem gleichnamigen Kartenspiel "Gender, Biased?" selbst in die Rolle eines Sprachmodells schlüpfen. Ich freue mich auf euren Besuch!

Betreuung:

Alessandra Zarcone