Dr. Joy Buolamwini – Poetin des Codes

Bereits mit 31 Jahren hat sie den Doktor in Media Arts and Sciences in der Tasche. Der Titel ihrer Dissertation "Facing the Coded Gaze with Evocative Audits and Algorithmic Audits" (auf Deutsch "Mit evokativen Audits und algorithmischen Audits dem kodierten Blick begegnen") wird für Joy Buolamwini zum Programm für ihr weiteres Schaffen. Es geht um nichts Geringeres als um Künstliche Intelligenz und die Folgen. Während ihrer Forschungen zu Gesichtserkennungssystemen beweist sie, dass die Software oft fehlerhaft in der Abgrenzung zwischen weiblichen und männlichen Geschlechtern arbeitet – und zwar bei der Erkennung von dunkelhäutigen Frauengesichtern. Für Joy Grund genug, diese Problematik an den Pranger zu stellen als Zeichen gegen die ohnehin (besonders in den USA) noch weit verbreitete Diskriminierung von Farbigen.

Algorithmic Justice League – Im Kampf gegen Diskriminierung durch KI

2016 gründet sie eine Organisation, welche die Auswirkungen durch KI beleuchtet. Dabei bedienen sich die Mitglieder der Organisation sowohl der Forschung als auch der Kunst. Eine interessante und wirkungsvolle Kombi. Dadurch steigen die Möglichkeiten, um die Öffentlichkeit auf die Probleme durch KI hinzuweisen, aber auch Unterstützung für Betroffene zu schaffen. Besonders Entscheidungsträger aus Politik, Forscher und auch jene, die KI in die Praxis umsetzen, sollen dadurch aktiviert werden. Letztendlich geht es um das Erzeugen eines Bewusstseins der Verantwortung beim Einsatz von KI in der Gesellschaft.

Joy Buolamwini selbst hatte die negativen Folgen von KI erlebt. Bei einem Gesichtsscan erkannte der Computer ihr Gesicht als solches nicht. Es existierte kein Gesicht von Joy! Obwohl sie zuerst an einen technischen Fehler dachte, der jedoch nicht vorlag, experimentierte sie – mit Kunst. Das auf ihre Hand gezeichnete Gesicht erkannte der Computer beim Scan sofort. Selbst als Joy ihr Gesicht mit einer weißen Maske bedeckte, funktionierte die Gesichtserkennung. Im Kurzfilm "Coded Gaze" berichtet Joy eindrucksvoll und anschaulich über ihre negativen Erfahrungen [2]. Und für sie war dies auch der Auslöser, um die Öffentlichkeit aufzurütteln und Algorithmic Justice League (AJL) zu gründen.

Letztendlich geht es um das Erzeugen eines Bewusstseins der Verantwortung beim Einsatz von KI in der Gesellschaft.

In dem 2018 gemeinsam mit Dr. Timnit Gebru – auch sie wird in "Persönlichkeiten der Informatik" noch vorgestellt – veröffentlichten "Gender Shades Papier" steht die Problematik im Mittelpunkt, wie gut die KI-Dienste von weltweit an der Spitze agierenden IT Unternehmen das Geschlecht eines Gesichts herausfinden können [3]. Daraufhin gab es umfangreiche Überarbeitungen der Programme bei Microsoft und IBM. Das Papier wurde Teil von Joy Buolamwinis bereits erwähnter MIT-Dissertation.

Immer wieder sorgte sie für Aufsehen – ihr Spoken-Word-Audit "AI, Ain't I A Woman?" demonstrierte am Beispiel von Prominenten wie Oprah Winfrey, Michelle Obama und Serena Williams, wie KI-Systeme bei Gesichtserkennung versagen [4]. Für viele ihrer Veröffentlichungen erhielt sie hohe Auszeichnungen und ihre Filme gingen auf Ausstellungen und Veranstaltungen um die Welt.

Aktuell forscht Buolamwini beim AJL zur Voreingenommenheit von Sprachsystemen, welche große Probleme mit afroamerikanischen Sprechern haben, die sich in der englischen Umgangssprache ausdrücken. Außerdem nahm sie die Gestaltung von KI-gesteuerten Sprachassistentinnen unter die Lupe und sieht Alexa, Cortana und Siri mit ihrem unterwürfigen Charakter als Beispiele für gefährliche Geschlechterstereotypen. Buolamwini gibt Menschen eine Stimme, die oft in der Gesellschaft vergessen bzw. ausgeschlossen werden. Und so ist es auch nicht verwunderlich, dass sie 2019 im US-Repräsentantenhaus vor dem Committee on Oversight and Government Reform aussagt, indem sie über die Problematik der KI-gestützten Gesichtserkennung referiert.

Längst gehört Buolamwini zu den bekanntesten Personen in der KI-Forschung. Ihren Namen findet man u. a. in der Liste "Die 50 besten Frauen der Welt in der Tech-Branche", in welche sie 2018 vom Forbes Wirtschaftsmagazin aufgenommen wurde. Und Fortune bezeichnet sie als das "Gewissen der KI-Revolution" [5]. Joy Buolamwini ist durch ihr mutiges und kämpferisches Auftreten, das kompromisslose Aufdecken von Problemen, die Künstliche Intelligenz mit sich bringt und ihr unermüdliches Forschen ein Vorbild für Mädchen und Frauen dieser Welt.