Amazon dyskryminował kobiety, bo tak zdecydował komputer

Amazon.com, największy na świecie sklep internetowy, od dawna eksperymentuje z automatyzacją. Od w pełni automatycznych magazynów poprzez prace nad dostawami towarów z użyciem autonomicznych dronów – założona przez Jeffa Bezosa firma znajduje się na czele postępu w dziedzinie automatyzacji pracy. Ostatnio wyszło jednak na jaw, że Amazon nie tylko używał sztucznej inteligencji w procesie rekrutacyjnym – ale musiał z niej zrezygnować gdyż okazała się… seksistowska.

Agencja Reutersa odkryła, że Amazon w 2014 roku zaczął używać programu, który oceniał wpływające do firmy podania o pracę. Jego celem był wybór z danej puli pięciu najlepszych kandydatów na stanowisko. Ocena kwalifikacji potencjalnego pracownika nie jest jednak łatwym zadaniem, dlatego stosowany przez Amazon program stosował bardzo zaawansowaną sztuczną inteligencję. Jednym z jej kluczowych elementów było to, że potrafiła się uczyć, co miało na celu udoskonalenie procesu rekrutacji. Zautomatyzowanie tego procesu było istotne gdyż Amazon w 2015 roku chciał zatrudnić ogromną ilość nowych pracowników, która niemal potroiła ich szeregi.

Nie wszystko jednak poszło tak, jak zaplanowano. AI Amazona uczyła się bowiem na podstawie starych CV osób, które już zostały przyjęte do pracy. Szybko nauczyła się więc odróżniać płeć osoby, która złożyła CV – język angielski jest w dużym stopniu neutralny płciowo, ale AI zaczęła  zauważać charakterystyczne dla mężczyzn frazy.

Nie byłoby w tym nic złego gdyby nie fakt, że AI doszła do wniosku, że skoro większość osób już przyjętych na stanowiska informatyczne to mężczyźni, to znaczy, że to właśnie mężczyźni są preferowani do takiej pracy. I zaczęła odrzucać podania kobiet tylko dlatego, że były kobietami.
Amazon dowiedziała się o problemie już w 2015 roku. Jednak próba jego rozwiązania okazała się bardzo trudna. Programiści szukali słów i fraz na podstawie których AI rozpoznawała CV kobiet i usuwali je z pamięci, ale nic to nie dało – AI znajdowała nowe sposoby rozpoznawania płci i nie chciała zrezygnować z faworyzowania mężczyzn. W końcu na początku zeszłego roku Amazon się poddał i zrezygnował ze stosowania AI w procesie rekrutacji.

Oczywiście nie oznacza to, że pomysł oceny kandydatów przez sztuczną inteligencję upadł. Wiele innych firm, między innymi Goldman Sachs czy Hilton, chce wykorzystywać podobne programy i naukowcy przewidują, że w ciągu najbliższej dekady wspomagana komputerowo rekrutacja stanie się standardem. Do tego czasu trzeba tylko nauczyć AI, że nie powinno dyskryminować kobiet.