Nová služba, ktorá ponúka Google, dokáže podľa nastaveného algoritmu určovať, čo sa na fotografiách nachádza. No nič nie je neomylné a systém urobil chybu, ktorá zasiahla veľmi citlivú tému.
Používateľ a programátor Jacky Alciné našiel, že algoritmus síce rozdelil snímky z jeho promócií, športovania či dovolenky správne, no fotografie s jeho priteľkou označil ako „Gorillas“. Teda počítač podľa svojho systému určil, že na fotografii sa nachádzajú gorily.
Google Photos, y'all fucked up. My friend's not a gorilla. pic.twitter.com/SMkMCsNVX4
— diri noir avec banan (@jackyalcine) June 29, 2015
Po zistení priniesol túto správu na svoj účet na Twitteri, kde mu odpovedal aj zodpovedný zamestnanec spoločnosti Google, Yonatan Zunger. Ten priznal, že aktuálny systém môže mať problém rozoznať objekty. „Zvykli sme mať ťažkosti s rozoznávaním ľudí (akejkoľvek rasy), kde ich systém označoval napríklad ako psov,“ uviedol Zunger pre theverge.com.
Google po zverejnení chyby odstránil, aby systém vôbec niekde pridával popis goríl. Spoločnosť má navyše intenzívne pracovať na odstránení chyby zo svojho systému.