Falošná fotografia. FOTO: Twitter.com/@N_Waters89
StoryEditor

Falošná správa o "explózii pri Pentagone" načrtla problémy umelej inteligencie aj režimu na twitteri

23.05.2023, 10:55
Autor:
ČTKČTK

Na snímke bola zobrazená biela stavba pripomínajúca americké vládne budovy a v popredí oblak čierneho dymu. Podľa Bloombergu sa najskôr objavil na facebooku, načo sa začal rýchlo šíriť na twitteri.

Na sociálnej sieti Twitter sa v pondelok popoludní rýchlo šíril obrázok, ktorý mnohé účty vrátane viacerých "overených" prezentovali ako dôkaz výbuchu pri sídle amerického ministerstva obrany. K žiadnej explózii pri Pentagone však nedošlo a komentátori začali čoskoro poukazovať na to, že obrázok nesie známky výstupu vygenerovaného umelou inteligenciou. Podľa agentúry Bloomberg išlo možno o prvý prípad, keď takto vytvorená snímka ovplyvnila akciové trhy.

"Toto je presne to, čo všetci čakali," komentoval incident niekdajší bezpečnosťou šéf facebooku Alex Stamos, ktorý aktuálne vedie výskumné pracovisko na Stanfordovej univerzite.

Koniec overovania

Odkazoval pri tom na skutočnosť, že systémy označované ako generatívna umelá inteligencia sú schopné vytvárať realistické obrazové materiály, čo môže uľahčiť šírenie falošných správ. Zároveň poukázal na to, že twitter už nepreveruje totožnosť užívateľov pri udeľovaní "modrej fajočky", takže dôveryhodne môžu pôsobiť aj podvodné profily.

Rad účtov s týmto odznakom, ktorý bol predtým vyhradený len pre profily osobností či firiem, u ktorých bola totožnosť overená, sa podieľal na vyvolaní pondelkovej paniky. Bol medzi nimi aj profil s názvom Bloomberg Feed, ktorý s americkou spravodajskou agentúrou nemal nič spoločné a bol neskôr zablokovaný. Falošnú snímku zdieľal tiež účet zerohedge s 1,6 miliónom sledujúcich a profil ruskej štátnej televízie RT.

image

Ruská oblasť ohlásila ozbrojené strety, viní ukrajinských sabotérov. Kyjev sa k tomu nehlási

Na snímke bola zobrazená biela stavba pripomínajúca americké vládne budovy a v popredí oblak čierneho dymu. Podľa Bloombergu sa najskôr objavil na facebooku, načo sa začal rýchlo šíriť na twitteri. "Facebook príspevok zablokoval, keď nezávislí analytici dospeli k záveru, že je falošný. Väčší dosah mal na twitteri, "uvádza web Platformer, ktorý sa špecializuje na spravodajstvo o nových médiách.

Vyvrátenie dezinformácie

Obrázok bol spojený s tvrdením, že ukazuje výsledok explózie pri Pentagone, túto informáciu však bolo pomerne jednoduché vyvrátiť. Jednak sa budova na ňom nezhodovala so skutočným sídlom ministerstva obrany, jednak snímka obsahovala rôzne nedokonalosti charakteristické pre výstupy generované systémami AI. Oficiálny účet záchranných zložiek v oblasti zahŕňajúcej Pentagon na twitteri prispieval s vyhlásením, že žiadny incident nenastal.

Veľké účty ako RT a zerohedge svoje prvotné príspevky krátko po zverejnení vymazali, šírenie podvodnej správy však podľa všetkého stihlo mať dopad na cenu akcií na Wall Street. Krátko po desiatej hodine východoamerického času (16:00 nášho času), keď obrázok s dymom cirkuloval na twitteri, oslabil hlavný akciový index S & P 500 asi o 0,3 percenta na svoje denné minimum. Keď začalo byť jasné, že žiada explózia nenastala, index stratu zmazal.

image

Bieloruský opozičný novinár Pratasevič, odsúdený na osem rokov väzenia, dostal milosť

Pôvod obrázku, ktorý spôsobil paniku, nie je známy. Špekulácie o tom, že ide o tvorbu umelej inteligencie, priživili obavy ohľadom vplyvu týchto nástrojov na účinnosť dezinformácií, uvádza Bloomberg. Ihneď po vlne príspevkov o "výbuchu pri Pentagone" sa objavil ďalší podobný prípad, tentoraz prezentovaný ako snímka Bieleho domu.

Podľa webu Platformer pondelkové udalosti tiež ukazujú "vážne nedostatky" bezpečnostných opatrení twitteru. "Twitter proti tomu míňal dobrú obranu. Hoci mal svoje muchy, starý systém overovania poskytoval prvú obrannú líniu proti typu útoku, aký sme dnes (v pondelok) videli. V dnešnom twitteri sú však obranné pozície prevažne opustené, "napísal.

01 - Modified: 2023-05-22 13:15:30 - Feat.: 1 - Title: Česko podpíše obrannú dohodu s USA, potvrdil Pentagon 02 - Modified: 2023-05-19 11:59:54 - Feat.: 1 - Title: Stačia iba štyri mesiace výcviku. USA prestáva vadiť export F-16 na Ukrajinu 03 - Modified: 2023-05-19 05:29:08 - Feat.: 1 - Title: "Zostaňte v krytoch až do odvolania." Ukrajina ďalšiu noc čelila ruským vzdušným útokom
01 - Modified: 2024-10-03 22:00:00 - Feat.: - Title: Umelá inteligencia zväčšovaním hlúpne. Nesčíta ani 47309068053 s 95464 02 - Modified: 2024-10-02 10:00:00 - Feat.: - Title: Zavibruj a odhaľ podvodníka. Smartfóny sa naučia nový trik 03 - Modified: 2024-10-02 09:15:08 - Feat.: - Title: VIDEO Ako by vyzeral filmový Harry Potter v 50. rokoch minulého storočia? Táto ukážka od umelej inteligencie vyráža dych 04 - Modified: 2024-09-28 05:30:00 - Feat.: - Title: Pesničky a poslucháčov zaistila AI, on inkasoval milióny. Hudobník obišiel systém, teraz ho čaká súd 05 - Modified: 2024-09-26 09:48:28 - Feat.: - Title: Pentagón odporučil poskytnúť Ukrajine muníciu s bielym fosforom
menuLevel = 1, menuRoute = svet, menuAlias = svet, menuRouteLevel0 = svet, homepage = false
06. október 2024 02:01