Grafická aplikácia FaceApp vstúpila na scénu v roku 2017. Po dvoch rokoch o nej všetci hovoria, vo 154 krajinách zo 155 je to najsťahovanejšia aplikácia: ako pre platformu iOS, tak pre Android.
V období od 9. do 19. júla zarobila svojmu autorovi, ruskému programátorovi Jaroslavovi Gončarovovi milión dolárov. A dôvod celosvetového fenomenálneho úspechu? Vypuknutie škandálu.
Pre upresnenie: okolo aplikácie FaceApp boli dva rozruchy, jeden s nádychom škandálu, uvádzajú Lidovky.cz. Od samého začiatku išlo o hračku, o aplikáciu určenú pre zábavu. Ľudskú tvár zmeníte a upravíte na mobile. Použijete pritom svoju selfie, prípadne odfotíte niekoho iného alebo si tvár na fotke stiahnete z internetu.
Spomeňme si na Multi Face, Face Craft, Face Swap, Face Blend, Face Fusion, ale je ich veľa. Zvyčajne sa k nim dostanete tak, že sa s niekým rozprávate a ako je dnes zvykom, robíte to s mobilom v ruke, ten druhý vám aplikáciu ukáže, vy si ju nainštalujete a potom zmažete.
Tvár na výmenu
Rovnaký osud čakal aj Gončarovovu FaceApp. Princíp je rovnaký, ide o takzvaný morfing či prelínanie. Program analyzuje tvár, vytvorí na nej sieť referenčných bodov (rozmiestnenie a tvar očí, nosa, pier, obrysov tváre) a to isté urobí s inou tvárou.
V ďalšom kroku obe siete na seba nadviažu a vzájomne sa prispôsobia. Keď sa to podarí tak ako má, charakteristické rysy oboch sa zachovajú. Takto fungujú aplikácie typu Face Swap. Vymeníte si tvár s kamarátom, komický efekt sa zväčší pokiaľ ide o opačné pohlavie, o to viac, keď si tvár skombinujú so svojím psom.
Než prišiel FaceApp, najpopulárnejšou bola aplikácia s nie príliš lákavým názvom MSQRD, ktorá ponúkala na výmenu trinásť tvárí, mimoriadne veľký záujem bol o tvár prezidenta Obamu.
Gončarovova FaceApp bola len ďalšou "appkou" v poradí. Upozornila na seba už v roku 2017, keď ponúkala možnosť meniť rasovú príslušnosť. V niekoľkých sekundách vás zmenila na černocha alebo Číňana.
Pred niekoľkými rokmi by to bol zdroj zábavy, teraz je to kriminálny čin. Na Gončarovova sa zosypala vlna kritiky, márne sa bránil, že filtre sú zoradené náhodne, aby nedávali prednosť žiadnej rase a že "neobsahujú žiadnu pozitívnu ani negatívnu konotáciu". Filtre museli z "appky" zmiznúť a na dlhé dva roky bol pokoj.
Dáta pre cudziu mocnosť
Druhý rozruch vyvolal americký senátor Chuck Schumer, keď dal FBI podnet, aby vyšetrila FaceApp a jej pôvodcu. Vadí mu, že Gončarov je Rus a jeho firma Wireless Lab sídli v Petrohrade. Senátor označil ako "hlboko znepokojujúce", že osobné dáta občanov Spojených štátov sa odosielajú "nepriateľskej cudzej mocnosti".
BIG: Share if you used #FaceApp:
— Chuck Schumer (@SenSchumer) July 18, 2019
The @FBI & @FTC must look into the national security & privacy risks now
Because millions of Americans have used it
It’s owned by a Russia-based company
And users are required to provide full, irrevocable access to their personal photos & data pic.twitter.com/cejLLwBQcr
Na Twitteri to senátor načrtol jasne: FBI a Federal Trade Commission sa musia FaceApp zaoberať, pretože ju používajú milióny Američanov, patrí firme sídliacej v Rusku a od užívateľov žiada "plný a neodvolateľný prístup k ich osobným fotografiám a dátam".
Chuck Schumer je šéf demokratickej menšiny v Senáte a jeho slová majú veľkú váhu. A bojuje proti aplikácii, ktorú aktuálne používa 80 miliónov ľudí na celom svete.
Senátor vo svojom podaní výslovne uvádza, že aplikácia vyžaduje prístup k fotografiám a dátam používateľa a ten musí súhlasiť s tým, že obrázky budú použité alebo publikované vrátane mena používateľa aj s jeho pravým menom, bez toho, aby o tom firma informovala, alebo mu poskytla náhradu.
Podanie končí konštatovaním, že v čase, keď sa technológia rozpoznávania tváre používa kvôli dohľadu a z bezpečnostných účelov, je dôležité umožniť používateľom uchovávať ich osobné a biometrické údaje v bezpečí, mimo dosahu nepriateľských cudzích národov.
Niet pochýb o tom, že ide o analýzu biometrických údajov, na ktorých je založená každá grafická aplikácia tohto druhu. Gončarov sa bráni, že dáta nie sú uložené v Rusku, ale na prenajatých serveroch Amazonu v Amerike a sú po 48 hodinách zmazané.
Mrazivý efekt
Nasledovali vyhlásenia bezpečnostných expertov, o prípade informovali médiá na celom svete a došlo k efektu názorne popísanom vo filme Obecná škola, kedy hneď potom, ako školský rozhlas varoval deti, aby v mraze neoblizovali železo, to okamžite všetci vyskúšali na zábradlí. Prípad sa ďalej skomplikoval tým, že na Gončarovovom obchodnom modele začali parazitovať podvodníci.
Samotná aplikácia FaceApp je zadarmo, avšak s obmedzeným počtom filtrov. Môžete si nasadiť úsmev, premeniť sa na opačné pohlavie, zmeniť farbu vlasov. Najpopulárnejším sa stal filter "vek".
Aplikácia vygeneruje nechutne vierohodný obraz, ako budete vyzerať o dvadsať rokov a je naozaj ťažké si predstaviť, že by niekto vyzeral lepšie. Výsledky sú veľmi kvalitné a to je zrejme dôvod, prečo morfing nerobí samotný mobil, ale sa posiela na vzdialený počítač.
Pokiaľ chcete ešte viac zábavy, musíte zaplatiť. A to je ten obchodný model. V oboch prípadoch: ako model firmy, tak model podvodníkov. Ak idete oficiálnou cestou, zaplatíte a možnosti FaceApp rozšírite. Ak chcete niečo typu "výhodne a so zľavou a masaker cien", vyfasujete zavírenú napodobeninu.
Oficiálne vysvetlenie je teda do rozumnej miery vierohodné a aj experti potvrdili, že odosielané dáta neputujú do Ruska, ale do Ameriky. Nejako však chýba vysvetlenie, čo sa s dátami deje tých ďalších 48 hodín, pretože spracovanie fotografie je veľmi rýchle. Na túto otázku Jaroslav Gončarov zatiaľ neodpovedal.
Môžeme nad tým všetkým pokrčiť ramenami ako nad hlúposťou, ktorá sa skvelo hodí na uhorkovú sezónu. Avšak s touto miniaférou sú spojené dva závažné problémy. Najskôr je tu problematika súkromia vo veku celosvetovej informačnej siete, a potom je to manipulácia s obrazovými dátami, posilnená umelou inteligenciou.
Bezpečie na sieti
Senátor Schumer právom poukazuje na to, že občania posielajú svoje dáta niekam, bez toho, aby mali možnosť akokoľvek ovplyvniť, čo sa s nimi deje. FaceApp v tomto ohľade nie je žiadna výnimka.
Predovšetkým je to Facebook, ktorý výslovne žiada od svojich užívateľov predbežný súhlas s použitím vloženého textového, obrazového, zvukového a filmového materiálu. Keď s tým Facebook prišiel, vyvolalo to nevôľu.
Tá však utíchla po tom, čo sa ukázalo, že existuje len jeden jednoduchý spôsob, ako zneužitiu zabrániť. Jednoducho Facebook nepoužívať, čo je cesta, ktorou sa vydal autor tohto výroku, ale aj Steve Wozniak, spoluzakladateľ firmy Apple.
Ten výslovne varuje pred užívaním Facebooku, Instagramu a podobných aplikácií. O FaceApp sa nezmienil, ale je jasné, že patrí do rovnakého vreca. Budúcnosť vidí chmúrne. Vedia o vás všetko, laserom vám môžu odpočúvať tlkot srdca, upozorňuje a pripomína aféry okolo softvérového asistenta Alexa.
Aleax, podobne ako Siri od Applu, je typický softvérový robot, ktorý vykonáva príkazy alebo vedie viac-menej zmysluplnú konverzáciu. Zábavné to bolo dovtedy, než sa ukázalo, že sa takýto asistent dá spustiť náhodne a vývojári tieto náhodne nahrané cudzie dialógy analyzujú a používajú na rozširovanie schopností aplikácie na báze strojového učenia. A to je možné vysvetlenie, prečo FaceApp uchováva fotografie 48 hodín.
Manipulácia s obrazom slúži na zábavu a aj k manipulácii s informáciami. Konieckoncov aj FaceApp má v sebe filter, ktorý vie vkopírovať vašu tvár do ľubovoľného prostredia. Pre modernú manipuláciu s obrazom sa ujal výraz "deep fake".
Fotografické montáže sa využívali k zavádzaniu verejnosti už dávno, avšak súčasné postupy na báze neurónových sietí sú schopné vygenerovať realisticky pôsobivý filmový záznam, vrátane hlasového prejavu.
Prvé, vtedy ešte na dnešné pomery primitívne pokusy sme videli vo filme Forrest Gump, kde hrdina vstupoval do historických filmových záberov.
Manipulácia s videozáznamami s cieľom ovplyvniť verejnú mienku je dnes úplne bežná, ide vlastne o použitie "niečoho iného v inom kontexte". Metodika deep fake však dokáže vyrobiť videozáznam natoľko presvedčivý, že je takmer nemožné ho identifikovať ako falzum.
V tomto ohľade je Wozniakova skepsa opodstatnená. Žijeme vo vizuálnom svete, naše rozhodovanie len minimálne vychádza z osobnej skúsenosti a je založené na tom, čo nám kto povie a ukáže. Priestor na manipuláciu sa rozširuje a rastú schopnosti jednotiek umelej inteligencie - dnes už je asi pochabé im hovoriť počítače.
Len sa pozerá!
Tieto jednotky sa učia a potrebujú k tomu materiál. Preto Amazon zneužil Alexu. Dokázať sa to však nedá a aj to je dôvod, prečo FaceApp od vás nechce len jednu fotku, ktorú si vytvoríte selfie kamerou: pozrie si všetky vo vašom mobile.
Experti uisťujú, že si ich len prezrie, ale nikam neposiela. Ono je to asi tak, že zlodej sa k vám vkradne, odnesie vám budík, ale prehľadá vám všetky šuflíky so spodnou bielizňou. Nič sa nestratí, ale niečo pribudne, a to zlý pocit.
Ako rastie kapacita umelej inteligencie, rastú aj požiadavky na normálny ľudský rozum. Používajme ho. Moje fotky nikto nezneužije, keď ich nebudem rozhadzovať oboma rukami po svete. A fake news ma neoklamú, keď budem kriticky hodnotiť zdroj informácií a pridržať sa len kontrolovaných zdrojov, s čitateľnou vnútornou etikou a overenými skúškami času.
Kto vie, či tí domorodci na Zambezi nemali pravdu, keď verili, že im fotografia kradne dušu?