Nechcem, aby si niekto myslel, že som takéto hrôzy niekedy povedala. Použiť Ukrajinku ako tvár na propagáciu Ruska je šialenstvo, vyhlásila Olha Lojeková, keď svoju tvár zbadala v rade videí na čínskych sociálnych sieťach. Ide o výsledok ľahko ovládateľných nástrojov generatívnej umelej inteligencie, ktoré sú ľahko dostupné online.
"Bol to moja tvár a môj hlas. Bolo to desivé. Videla som samu seba hovoriť veci, ktoré som nikdy nepovedala, "zverila sa dvadsaťjedenročná študentka Pensylvánskej univerzity stanici BBC.
Čínsko-ruské priateľstvo
Profily, ktoré používali jej tvár, vystupovali pod rôznymi menami, napríklad Sofia, Nataša, April alebo Stacy. Všetky "dievčatá" hovorili mandarínsky, teda jazykom, ktorý sa Lojeková nikdy neučila. Pochádzali z Ruska a hlavnou témou videí bolo čínsko-ruské priateľstvo, prípadne propagácia ruských výrobkov.
"Tak v deväťdesiatich percentách tých videí sa hovorilo o Číne a Rusku a priateľstve medzi nimi. Že sú to silní spojenci. Ďalšie videá zase vyzerali ako reklamy na potraviny," povedala Lojeková.
"Natasha imported food" bol jeden z najväčších účtov, ktorý jej tvár využíval. Ako "Nataša" s viac ako 300-tisíc sledujúcimi pristúpila k propagácii ruských potravín, hovorila v úvode videí veci typu: "Rusko je tá najlepšia krajina. Je smutné, že ostatné štáty sa od neho odvracajú, Rusky sa chcú pozrieť do Číny. "Lojekovú, ktorej rodina je stále na Ukrajine, takéto vyjadrenia rozčuľovala a urážala.
Prvé AI klony Lojekovej sa objavili v roku 2023, teda chvíľu po tom, čo si sama založila kanál na YouTube. Zhruba po mesiaci jej začali chodiť otázky od ľudí, či hovorí mandarínsky, pretože ju videli na čínskych sociálnych sieťach. Lojeková začala pátrať a jednu "dievčinu" so svojou tvárou objavila na čínskej obdobe siete Instagram, platforme Siao-chung-šu (Xiaohongshu), ďalší na serveri Bilibili, ktorý funguje ako ázijský YouTube.
"Bolo ich (účtov) tam veľa. Niektoré z nich mali v popisku ruskú vlajku, "uviedla Lojeková. Podľa svojich slov zatiaľ objavila 35 účtov, ktoré používajú jej tvár.
Tisícky klonov
Snoubenec Lojekovej na existenciu falošných videí upozornil na platforme X. Firma HeyGen, ktorá podľa ukrajinskej youtuberky technológiu zneužitú vo videách vyvinula, v reakcii odhalila takmer 5000 videí jej AI klonov. Spoločnosť tiež informovala, že tvár Olhy Lojekovej pre ďalšiu tvorbu videí zablokovala. Aby k podobnému zneužitiu v budúcnosti nemohlo dôjsť, HeyGen tiež podľa svojich zástupcov aktualizoval bezpečnostný protokol.
Angela Zhangová z univerzity v Hongkongu považuje to, čo sa stalo Olze, v Číne za "veľmi bežné". Podľa Zhangovej je Čína krajinou "rozsiahlej sivej ekonomiky, ktorá sa zameriava na falšovanie, zneužívanie osobných údajov a výrobu deepfakov", teda videí, na ktorých pomocou generatívnej AI hovoria virtuálne verzie ľudí veci, ktoré tí skutoční nikdy nevypovedali.
Čína bola jednou z prvých krajín, ktorá sa o reguláciu AI začala pokúšať na legislatívnej úrovni. Dokonca upravila svoj občiansky zákonník tak, aby chránil osobnostné práva pred zneužitím pomocou digitálne sfalšovaného obsahu. Kvôli podozreniu z "výmeny tváre umelou inteligenciou" čínske úrady podľa štatistík zadržali v minulom roku 515 ľudí.
Otázkou zostáva, ako sa toľko videí falošnej Lojekovej dostalo na sieť. Podľa BBC môže byť dôvodom ich obsah - propagácia čínsko-ruských vzťahov. V posledných rokoch sa obe krajiny výrazne zblížili.
Čínsky vodca Si Ťin-pching a ruský prezident Vladimir Putin predtým uviedli, že priateľstvo medzi Ruskom a Čínou "nemá hranice". Čínske štátne médiá tiež preberajú ruskú propagandu, ktorá ospravedlňuje okupáciu Ukrajiny. Akákoľvek diskusia o rusko-ukrajinskom konflikte na internete čínska vláda cenzuruje.
"Nie je jasné, či tie účty boli nejako prepojené, ale propagácia správ, ktorá je v súlade s vládnou rétorikou, sa im (čínskej vláde) bezpochyby hodí," uviedla Emmia Hineová, výskumníčka v oblasti práva a technológií z Bolonskej univerzity. "Aj keby tie účty neboli priamo prepojené s Komunistickou stranou Číny, propagácia jej posolstva znižuje pravdepodobnosť, že by ich niekedy odstránila," dodala.
Podľa Hineovej je hlavným cieľom čínskej regulácie AI zachovať súčasnú spoločenskú stabilitu a propagovať inováciu a ekonomický vývoj. "Na papieri tie pravidlá (regulácia AI) vyzerajú síce striktne, ale zaznamenali sme, že v praxi sú veľmi selektívne," povedala.