Der Fall Dr. Gebru: wie Rassismus in künstlicher Intelligenz weiterlebt

Der Abgang der angesehenen Google Wissenschaftlerin Dr. Timnit Gebru gibt der Debatte über Rassismus in der Technologiebranche neue Aufmerksamkeit. Denn die Diskriminierung endet nicht bei den Angestellten, sondern zieht sich bis in manche Softwareprodukte der Unternehmen hinein.

Schon seit Jahren wird dem Silicon Valley Rassismus bei der Entwicklung künstlicher Intelligenz (KI) vorgeworfen. KI und Rassismus, wie soll das zusammen hängen? Fragen sich jetzt vielleicht einige von euch. Was jedoch viele Menschen verkennen ist, dass die Technologien und Algorithmen, mit denen wir tagtäglich zu tun haben, nicht einer uns fremden Welt entstammen, die alles objektiv einordnet. Sie entstehen in der Unseren und werden von Menschen gemacht, die darin leben.

Damit enthalten sie oft mehr irdische Fehler, als auf den ersten Blick angenommen. Menschen haben Vorurteile, reproduzieren Stereotype und behalten nicht immer alle Perspektiven im Blick. Das Resultat: Jene Tendenzen werden in die künstliche Intelligenz eincodiert. Dem Anspruch der Weltverbesserung, den viele Tekkies zumindest vordergründig vertreten, werden sie damit nicht gerecht.

Die IT-Branche ist weiß und männlich

Das ist besonders darauf zurückzuführen, dass die IT Branche von weißen Männern angeführt wird. Während sich Statistiken über die Zusammensetzung europäischer Unternehmen auf die Frauenquote konzentrieren, wird in den USA die soziale Vielfalt in den Unternehmen vermehrt intersektional untersucht. Das bedeutet, es wird die Überschneidung und Gleichzeitigkeit von verschiedenen Diskriminierungskategorien mit einbezogen. Eine Schwarze Frau fällt damit beispielsweise in mindestens zwei Kategorien.

Google berichtet in seinem neuesten Diversity-Report zwar von Fortschritten im Vergleich zu den Jahren davor, was die Diversität im Unternehmen angeht. Jedoch arbeiten bei dem Tech-Giganten weltweit nur 1,6% Schwarze Frauen, im Technikbereich lediglich 0,7%. Im Vergleich dazu, stellen weiße Frauen 15,2% aller und 9,6% der technischen Mitarbeitenden. In der Führungsetage gehen die Zahlen noch extremer auseinander. 

Die Bewertungsplattform für Techunternehmen „TrustRadius“ hat in ihrem People of Color in Tech Report 2020 weltweit Mitarbeitende von Technologieunternehmen zu Diversitätsthemen befragt. Dabei gaben nur 21% der Befragten an, dass mehr als ein Viertel der Führungspositionen von POCs besetzt sind. Außerdem seien POCs doppelt so oft von rassistischer Diskriminierung betroffen wie ihre weißen Kolleg:innen.

Für Österreich lässt sich zumindest sagen, dass Frauen in Studien der Informations- und Kommunikations-Technologie (IKT) unterrepräsentiert sind. Laut dem Standard, ist einer Eurostat-Studie aus dem Jahr 2019 zu entnehmen, dass ihr Anteil gerade einmal 14% beträgt, während der EU-Durchschnitt bei 17% liegt. Daraus lässt sich schließen, dass sich dieses Ergebnis auch in den Unternehmen widerspiegelt.

Der Fall von Dr. Timnit Gebru

Das aktuelle Beispiel der berühmten KI Ethikerin Dr. Timnit Gebru macht das Problem erneut sichtbar. Die Stanford-Absolventin war Co-Leiterin des „Ethical AI Intelligence Teams“ bei dem US-amerikanischen Technologieunternehmen Google und ist Gründerin der Organisation Black in AI, die sich für mehr People of Color (POC) in der IT-Forschung einsetzt. Doch seit Anfang Dezember 2020 herrscht ein teils öffentlich ausgetragener Streit zwischen Gebru und ihren Unterstützer:innen und Google.

Die Informatikerin behauptet, der Chef von Googles KI-Abteilung habe sie gefeuert, kurz nachdem sie eine Rundmail mit dem Titel „Silencing Marginalized Voices in Every Way Possible“ („Marginalisierte Stimmen auf jedem möglichen Weg zum Schweigen bringen“) an eine Google interne Arbeitsgruppe sandte. Darin führt sie das Diversity-Problem von Google deutlich an und wirft dem Unternehmen institutionellen Rassismus vor:

„There is no incentive to hire 39% women: your life gets worse when you start advocating for underrepresented people, you start making the other leaders upset when they don’t want to give you good ratings during calibration. There is no way more documents or more conversations will achieve anything. We just had a Black research all hands with such an emotional show of exasperation. Do you know what happened since? Silencing in the most fundamental way possible.“

If you talk about toxic workplace conditions, a lot of the leaders will want you out. If a lot of the leaders want you out, they'll find a way to make it happen. If you're a harasser, thats not the case. A lot of the leaders will be A-ok with you being around.

— Timnit Gebru (@timnitGebru) December 9, 2020

Hinzu kommt die Ablehnung von Gebrus neuester Forschungsarbeit über die Gefahren von KI-Sprachsystemen durch die Google Führungsriege. In dem Bericht soll sich die Forscherin laut der Nachrichtenagentur Reuters kritisch darüber geäußert haben, dass Sprachassistenten geschlechtsspezifische Voreingenommenheiten und anstößige Sprache gebrauchen würden. Es läge an den Technologieunternehmen, diesen Diskriminierungen besser vorzubeugen.

Solidarität mit Gebru

Nun haben sich 2695 Google Mitarbeiter:innen und 4302 Akademiker:innen, Industrielle und Menschen aus der Zivilgesellschaft in einem offenen Brief mit Gebru solidarisiert. Sie fordern in erster Linie mehr Transparenz der Verantwortlichen, was die Ablehnung von Gebrus Forschung angeht.

„Die Kündigung ist ein Akt der Vergeltung gegen Dr. Gebru und birgt die Gefahr für Menschen, die für ethische und gerechte KI arbeiten – insbesondere für Schwarze und Menschen mit Farbe – bei Google.“

Orig.: „The termination is an act of retaliation against Dr. Gebru, and it heralds danger for people working for ethical and just AI — especially Black people and People of Color — across Google.”

Google-CEO Sundar Pichai entschuldigt sich im Anschluss mit einer Memo an seine Mitarbeiter offiziell für das Vorgehen und plädiert für eine genaue Untersuchung der Umstände. Das Unternehmen behauptet jedoch Gebru habe von sich aus gekündigt.

Wer von den Beteiligten nun die Wahrheit erzählt, ist noch unklar. Die Debatte ist jedenfalls losgetreten und verdient größere Aufmerksamkeit.

Maschineller Sexismus und Rassismus

Rassistische und sexistische Vorwürfe sind nichts Neues, wenn es um KI geht. In ihrem Buch „Invisible Women“ zeigt Caroline Criado Perez auf, dass Navigationssysteme beispielsweise eher benennen können, wo das nächste Bordell liegt, als eine naheliegende Anlaufstelle für Abtreibungen zu kennzeichnen. Von verschiedenen Sprachassistenten ist bekannt, dass sie männliche Stimmen besser verstehen als weibliche und bei der Google Foto-App ist vermehrt vorgekommen, dass BPOCs aufgrund ihres Aussehens als Menschenaffen gekennzeichnet werden.

Solche Fehlkonstruktionen diskriminieren nicht nur auf emotionaler Ebene marginalisierte Gruppen, sondern ziehen auch weitreichende Folgen in der Welt der Betroffenen nach sich. Algorithmen werden in vielen verschiedenen Bereichen eingesetzt. Beispielsweise bestimmen sie die Kreditwürdigkeit von Menschen. Sie entscheiden auch welche Stellenanzeigen angezeigt werden oder wer ein Visum erhält – auch an den EU Außengrenzen. Zum Beispiel kommen POCs oder Menschen mit Migrationsgeschichte durchschnittlich aus schlechter gerankten Gegenden. Dadurch werden sie tendenziell öfter als gefährlich eingestuft, in der Kreditvergabe benachteiligt oder bekommen Jobangebote für schlechter bezahlte Jobs.

Die Probleme in der analogen Welt lassen sich demnach durch die digitale Welt nicht beheben. Im Gegenteil, sie treten sogar noch deutlicher hervor. Wenn die Technologieunternehmen damit werben, unsere Welt einfacher, fairer und besser zu machen, dann müssen sie sich in Zukunft auch aktiv dafür einsetzen und bei sich selbst anfangen. Klar ist jedoch, technischer Fortschritt bedeutet nicht gleich Fortschritt in jeglicher Hinsicht.

Titelbild Credits: TechCrunch – https://www.flickr.com/photos/techcrunch/30671211838/ / CC BY 2.0