Daniel Milo - riaditeľ odboru Centrum boja proti hybridným hrozbám, Inštitút správnych a bezpečnostných analýz
StoryEditor

Odborník: Na falošné videá postačí smartfón a zmanipulovaný obsah sa bude dať tvoriť v reálnom čase

24.09.2023, 00:00
  • Jedna banka už v reklame ukázala, ako sa dá „oživiť“ hlas Júliusa Satinského a sme pred obdobím, keď sa budú dať čoraz lepšie robiť tzv. deepfake videá.
  • Budeme napríklad vidieť, ako sa politik rozpráva so zločincom o tom, že idú vyhodiť do vzduchu Prezidentský palác, ale v skutočnosti to nebudú oni, ale falošné video, ktoré bude pôsobiť dokonale realisticky.
  • Rozlíšiť, čo je falošné a čo reálne, je čoraz ťažšie. A ľudia už potom prestanú veriť aj reálnym videám.
  • Riaditeľ Centra boja proti hybridným hrozbám Daniel Milo (47) pre magazín Téma hovorí, že svet práve rieši, čo s tým.

Je deepfake video a tiež umelé vytváranie hlasov hrozba?

Ako každá iná technológia, aj vytváranie umelých videí alebo audiozáznamov vytvorených umelou inteligenciou je zneužiteľné a už boli zaznamenané nejaké pokusy. Zatiaľ je to skôr ako keby v testovacej fáze, ešte som nevidel úspešný príklad použitia deepfake videa, ktorý by dosiahol želaný účel. Veľmi veľa sa však o tom hovorí a možno si ľudia spomenú napríklad na video bývalého amerického prezidenta Baracka Obamu, v ktorom hovorí rôzne veci, ale v skutočnosti to nebol Barack Obama.

image

Téma, č. 39 SNÍMKA: Archív Hn

SNÍMKA: Archív Hn

Čo na videu bolo?

Na konci videa hanlivým spôsobom označil Donalda Trumpa. Bolo to asi pred štyrmi rokmi a išlo o demonštráciu, čo je s touto technológiou možné robiť a vtedy sa aj začala veľká debata medzi technologickými spoločnosťami. Všetci z toho mali zlý spánok, ale zatiaľ sa obavy podľa mňa nenaplnili. Odvtedy uplynul pomerne dlhý čas a okrem zopár kuriozít týkajúcich sa ironizácie niekoho, alebo zábavného využitia videí, to napríklad vo vzťahu k politikom ešte nikto nepoužil úspešne.

image

U nás boli tiež pokusy dať von falošné video nejakého politika?

Existovalo video bývalého prezidenta Andreja Kisku, ako ho odvádzajú zo súdu do nejakej cely, ale bolo amatérsky urobené a bolo vidieť, že je umelo vytvorené. Takže ani v tomto prípade nesplnilo účel, ktorý asi autor videa chcel dosiahnuť. Kvalita videí vo väčšine prípadov ešte nedosahuje takú úroveň, aby sa nedalo odhaliť, že nie sú autentické.

V Hollywoode od mája protestujú scenáristi, ktorých ohrozuje umelá inteligencia, a v lete sa k nim pridali aj herci. Predpokladajú, že videá onedlho budú mať takú úroveň, že sa filmy budú točiť bez hercov, použijú len ich tváre, ale oni v skutočnosti nebudú hrať. Vo filmovom priemysle tam štrajkuje 160-tisíc ľudí...

Tam ide aj trochu iný problém – o ochranu autorských práv, či už scenáristov alebo hercov. Pri scenáristoch ide o automatizované spracovanie nimi vytvorených scenárov a v prípade hercov o spracovanie filmov, v ktorých hrajú. Existujúce filmy sa použijú na natrénovanie umelej inteligencie, aby mohla automatizovaným spôsobom vytvárať vizuály bez potreby platiť herca. Predstavte si herca, ktorý hral v mnohých filmoch a seriáloch, v archívoch sú hodiny a hodiny jeho vystúpení, a z nich sa naozaj môže umelá inteligencia naučiť vytvoriť hercov vizuál, čiže video, v ktorom herec reálne nevystupuje a napriek tomu bude veľmi ťažko rozoznateľné od originálu. Ide o objem trénovacieho materiálu, práve ten je predpokladom vytvorenia kvalitných deepfakeových videí.

To by sa pekne dalo použiť práve v politike, lebo existujú veľké množstvá nahratého materiálu politikov. Takže keby niekto chcel skompromitovať politika, už by to mohol dokázať?

Určite to hrozí. Zatiaľ som sa naozaj nestretol s úspešným príkladom využitia techniky, ktorá by mala dosah napríklad na voličské preferencie, viem si však predstaviť, že by niekto vytvoril deepfake video, v ktorom by dal politikovi do úst výroky, aké nikdy nepovedal. Napríklad v čase vrcholiacej predvolebnej kampane.

Tento článok je určený iba pre predplatiteľov.
Zostáva vám 82% na dočítanie.
01 - Modified: 2023-09-18 22:00:00 - Feat.: 0 - Title: Mnohí trpia "cieľovým fetišizmom", plnia ciele, no nie sú šťastní. Pocit šťastia sa však dá natrénovať 02 - Modified: 2023-07-23 22:00:00 - Feat.: 0 - Title: Kokteilový efekt: Aké riziká v sebe nesú tetovania, teflónové panvice či kombinácia kávy a alkoholu? 03 - Modified: 2023-05-27 22:00:00 - Feat.: 0 - Title: Techniky vyjednávača: Vyjednávanie nemá s logikou nič spoločné, kompromis je najhorší výsledok 04 - Modified: 2023-05-26 22:00:00 - Feat.: 0 - Title: Sníva sa vám o nahote, lietaní, smrti či vražde? Vyznajte sa v snoch aj v tom, čo vám chcú povedať
01 - Modified: 2024-10-31 16:00:00 - Feat.: - Title: ROZHOVOR Ondrej Kandráč: S manželkou nám odpovedali aj na intímne otázky 02 - Modified: 2024-10-31 12:00:00 - Feat.: - Title: Návhár Boris Hanečka: Poviem vám, prečo chodím dogabaný! 03 - Modified: 2024-10-31 07:00:00 - Feat.: - Title: Apple spúšťa vlastnú AI. Nateraz bude pracovať v obmedzenej podobe 04 - Modified: 2024-10-30 23:00:00 - Feat.: - Title: Zuzana Smatanová: Rozbila som sa na kúsky a zase poskladala nanovo. Je užitočné držať sa "na nule" 05 - Modified: 2024-10-30 21:03:28 - Feat.: - Title: Zisk majiteľa Facebooku v treťom kvartáli vzrástol o 35 percent, umelá inteligencia však bude drahšia
menuLevel = 1, menuRoute = tema, menuAlias = tema, menuRouteLevel0 = tema, homepage = false
31. október 2024 22:51