V Amazone vytvorili robota, ktorý mal prechádzať životopisy uchádzačov o prácu a filtrovať tie nevhodné. Lenže ako sa ukázalo, v softvéri bol problém - robot z uchádzačov vyraďoval ženy. Spoločnosť tak projekt ukončila.
Tím vývojárov budoval program na robotické hľadanie talentov od roku 2014. Práve vďaka automatizácii Amazon uspel na poli on-line nakupovania, či už sa to týkalo skladov alebo cenového rozhodovania.
Softvér na výber ľudí mal životopisom uchádzačov prideľovať hodnotenie od jednej do piatich hviezdičiek, podobne, ako nakupujúci dávajú hviezdičky produktom na stránkach Amazonu.
"Každý takýto nástroj chcel. Mal to byť stroj, kam napcháte profily sto ľudí a on ich vypľuje päť, ktorých potom najmeme," povedal agentúre Reuters zdroj, ktorý si prial zostať v anonymite.
Roboty trénované na životopisoch
V roku 2015 si ale spoločnosť všimla, že nový systém nie je pri hodnotení kandidátov neutrálny čo sa týka ich pohlavia. Počítačové modely totiž boli trénované na životopisoch, ktoré firma dostala počas desiatich rokov. A vzhľadom k dominancii mužov v technologických odboroch pochádzala väčšina práve od mužov.
Systém sa tak naučil, že mužských kandidátov má preferovať. Dával "trestné" body životopisom, ktoré obsahovali odvodeniny slová žena, ako napríklad "kapitánka ženského šachového klubu". Ako negatívne hodnotil aj absolvovanie školy, kam chodia len ženy.
Amazon preto programy upravil, aby na tieto konkrétne výrazy nereagovali. Ale nešlo zaručiť, že si stroje nevymyslia iné spôsoby triedenia kandidátov, ktoré by mohli byť diskriminačné. Firma preto nakoniec špeciálny vývojársky tím vlani rozpustila, pretože manažéri v projekte stratili dôveru.
Spoločnosť odmietla pre agentúru Reuters komentovať technológie, ktoré využíva s tým, že personalisti Amazonu robota pri hodnotení ľudí nikdy nepoužívali. Zdroj Reuters však tvrdí opak. Že sa na neho síce nikdy úplne nespoliehali, ale k jeho odporúčaniam prizerali.
Experiment v Amazone ukazuje limity v učení umelej inteligencie. Poslúži aj ako lekcia pre veľké firmy, ako sú Hilton Worldwide Holdings Goldman Sachs Group, ktoré o automatizácii časti procesu najímania pracovníkov uvažujú.
Strojové učenie
Podľa prieskumu CareerBuilder z roku 2017 si 55 percent amerických šéfov oddelenia ľudských zdrojov myslí, že umelá inteligencia bude do piatich rokov bežne vykonávať časť ich práce.
Zamestnávatelia dlho snívajú o technológii, ktorá by im umožnila menej sa spoliehať na subjektívne hodnotenie ľudských personalistov. Ale počítačoví vedci ako napríklad Nihar Shah, ktorý prednáša strojové učenie na Carnegie Mellon University, vedia, že je pred nimi ešte dlhá cesta. "Zatiaľ nevieme zabezpečiť, aby algoritmus bol férový, šiel dobre vysvetliť a interpretovať," upozornil.
Pokus Amazonu začal v kľúčovom období. Strojové učenie si získavalo čoraz viac pozornosti a personalisti chystali kobercový nálet: od júna 2015 sa počet ľudí, ktorý pre firmu pracujú, viac ako strojnásobil na 575.700 ľudí.
Tím dvanástich ľudí vo vývojárskom stredisku firmy v Edinburghu vytvoril 500 počítačových modelov, ktoré sa zameriavali na špecifické odborné schopnosti a lokácie. Každý z nich rozoznával 50 tisíc slov, ktoré sa objavovali na životopisoch bývalých kandidátov.
Preferencie mužského pohlavia však nebola jediným problémom. Kandidátov bez kvalifikácie systém tiež napríklad odporúčal na všetky typy pozícií. Aj preto teda Amazon nespoľahlivý projekt ukončil.
Firmy skúšajú aj iné metódy automatického náboru. Napríklad Unilever alebo Hilton využívajú služby start-upu HireVue, ktorá na video pohovoroch analyzuje hovorený prejav a výrazy tváre kandidátov.
Banka Goldman Sachs si vytvorila vlastný analytický nástroj, ktorý sa pokúša zistiť, do akého jej oddelenia by sa uchádzač podľa životopisu najlepšie hodil.
Profesionálne sociálna sieť LinkedIn išla ešte ďalej: zamestnávateľom ponúka algoritmické hodnotenie kandidátov, ktorí by sa hodili na pozície, ktoré firmy na LinkedIn inzerujú.
Viceprezient LinkedIn Talent Solutions John Jersín však zdôrazňuje, že služba nemá nahradiť tradičných personalistov. "Určite by som neveril žiadnemu robotovi, ktorý sám o sebe vyberie kandidáta. Technológia ešte nie je tak ďaleko," hovorí.