Amazon: Algorithmus mit unerwünschten Nebenwirkungen
2014 entwickelte Amazon intern einen Algorithmus, um passende Bewerber für das Unternehmen zu finden. Nun wurde das Bewertungssystem größtenteils eingestellt, da es systematisch Frauen benachteiligte.
Im Jahr 2017 beschäftigte Amazon weltweit 566.000 Mitarbeiter – Tendenz steigend. Um die passenden Bewerber für den US-Konzern zu finden, entwickelte Amazon intern ein Bewerbungssystem, welches dabei helfen sollte, schnell und einfach die besten Bewerbungen zu sichten. Nach bereits einigen Jahren im Testverfahren begann Amazon 2014 die Software, basierend auf einer Künstlichen Intelligenz, zu nutzen. Dabei sollte die Software alle Bewerbungen lesen und mit eins bis fünf Sternen bewerten. Alle Bewerber, die mit fünf Sternen ausgezeichnet wurden, trafen menschliche Personaler zum Vorstellungsgespräch.
Grundlage des Algorithmus
Der Nachrichtenagentur Reuters zufolge, wird nun die Software größtenteils eingestampft, da die KI Frauen systematisch benachteiligte. Zurückzuführen ist dieses Verhalten auf das Ausgangsmaterial. Denn der Algorithmus hatte mit den Datensätzen der angenommenen Bewerber trainiert und sollte dadurch lernen, welche Merkmale Amazon bevorzugt. Allerdings hatte Amazon in den Datensätzen, welche zehn Jahre alt waren, hauptsächlich Männer eingestellt. Der Algorithmus zog schließlich den Schluss, dass Bewerbungen von Frauen schlechter zu bewerten seien. Selbst die Ausbildung auf zwei Universitäten der USA, die rein weiblich sind, wurde als Nachteil gewertet. Aus Rücksicht auf die Ausbildungsstätten möchte Amazon die Namen nicht verraten. 2015 fiel erstmals auf, dass das Wort "Frauen" nach Aussagen von Reuters vom Programm als negativ bewertet wurde. Daraufhin passten Entwickler das Verhalten der KI so an, dass zumindest "Frau" als neutral angesehen wurde. Die Änderung führte jedoch nicht zu einer ausreichenden Lösung.
Komplette Übernahme bei Bewerbern?
Ursprünglich war es Ziel von Amazon, die Auswahlprozesse komplett der Software zu übergeben. Das Unternehmen äußert jedoch, dass die Software nie über eine Vorschlagsfunktion hinausgegangen sei. Zudem äußerte der US-Konzern, der Algorithmus habe zu keiner Zeit allein auf dieser Basis Bewerber eingestellt. Derzeit sind etwa 40 Prozent aller Amazon-Mitarbeiter weltweit Frauen.
LG
Sie möchten zukünftig per Newsletter der Informatik Aktuell informiert werden? Hier können Sie sich anmelden.
