Falošná fotografia. FOTO: Twitter.com/@N_Waters89
StoryEditor

Falošná správa o "explózii pri Pentagone" načrtla problémy umelej inteligencie aj režimu na twitteri

23.05.2023, 10:55
Autor:
ČTKČTK

Na snímke bola zobrazená biela stavba pripomínajúca americké vládne budovy a v popredí oblak čierneho dymu. Podľa Bloombergu sa najskôr objavil na facebooku, načo sa začal rýchlo šíriť na twitteri.

Na sociálnej sieti Twitter sa v pondelok popoludní rýchlo šíril obrázok, ktorý mnohé účty vrátane viacerých "overených" prezentovali ako dôkaz výbuchu pri sídle amerického ministerstva obrany. K žiadnej explózii pri Pentagone však nedošlo a komentátori začali čoskoro poukazovať na to, že obrázok nesie známky výstupu vygenerovaného umelou inteligenciou. Podľa agentúry Bloomberg išlo možno o prvý prípad, keď takto vytvorená snímka ovplyvnila akciové trhy.

"Toto je presne to, čo všetci čakali," komentoval incident niekdajší bezpečnosťou šéf facebooku Alex Stamos, ktorý aktuálne vedie výskumné pracovisko na Stanfordovej univerzite.

Koniec overovania

Odkazoval pri tom na skutočnosť, že systémy označované ako generatívna umelá inteligencia sú schopné vytvárať realistické obrazové materiály, čo môže uľahčiť šírenie falošných správ. Zároveň poukázal na to, že twitter už nepreveruje totožnosť užívateľov pri udeľovaní "modrej fajočky", takže dôveryhodne môžu pôsobiť aj podvodné profily.

Rad účtov s týmto odznakom, ktorý bol predtým vyhradený len pre profily osobností či firiem, u ktorých bola totožnosť overená, sa podieľal na vyvolaní pondelkovej paniky. Bol medzi nimi aj profil s názvom Bloomberg Feed, ktorý s americkou spravodajskou agentúrou nemal nič spoločné a bol neskôr zablokovaný. Falošnú snímku zdieľal tiež účet zerohedge s 1,6 miliónom sledujúcich a profil ruskej štátnej televízie RT.

image

Ruská oblasť ohlásila ozbrojené strety, viní ukrajinských sabotérov. Kyjev sa k tomu nehlási

Na snímke bola zobrazená biela stavba pripomínajúca americké vládne budovy a v popredí oblak čierneho dymu. Podľa Bloombergu sa najskôr objavil na facebooku, načo sa začal rýchlo šíriť na twitteri. "Facebook príspevok zablokoval, keď nezávislí analytici dospeli k záveru, že je falošný. Väčší dosah mal na twitteri, "uvádza web Platformer, ktorý sa špecializuje na spravodajstvo o nových médiách.

Vyvrátenie dezinformácie

Obrázok bol spojený s tvrdením, že ukazuje výsledok explózie pri Pentagone, túto informáciu však bolo pomerne jednoduché vyvrátiť. Jednak sa budova na ňom nezhodovala so skutočným sídlom ministerstva obrany, jednak snímka obsahovala rôzne nedokonalosti charakteristické pre výstupy generované systémami AI. Oficiálny účet záchranných zložiek v oblasti zahŕňajúcej Pentagon na twitteri prispieval s vyhlásením, že žiadny incident nenastal.

Veľké účty ako RT a zerohedge svoje prvotné príspevky krátko po zverejnení vymazali, šírenie podvodnej správy však podľa všetkého stihlo mať dopad na cenu akcií na Wall Street. Krátko po desiatej hodine východoamerického času (16:00 nášho času), keď obrázok s dymom cirkuloval na twitteri, oslabil hlavný akciový index S & P 500 asi o 0,3 percenta na svoje denné minimum. Keď začalo byť jasné, že žiada explózia nenastala, index stratu zmazal.

image

Bieloruský opozičný novinár Pratasevič, odsúdený na osem rokov väzenia, dostal milosť

Pôvod obrázku, ktorý spôsobil paniku, nie je známy. Špekulácie o tom, že ide o tvorbu umelej inteligencie, priživili obavy ohľadom vplyvu týchto nástrojov na účinnosť dezinformácií, uvádza Bloomberg. Ihneď po vlne príspevkov o "výbuchu pri Pentagone" sa objavil ďalší podobný prípad, tentoraz prezentovaný ako snímka Bieleho domu.

Podľa webu Platformer pondelkové udalosti tiež ukazujú "vážne nedostatky" bezpečnostných opatrení twitteru. "Twitter proti tomu míňal dobrú obranu. Hoci mal svoje muchy, starý systém overovania poskytoval prvú obrannú líniu proti typu útoku, aký sme dnes (v pondelok) videli. V dnešnom twitteri sú však obranné pozície prevažne opustené, "napísal.

01 - Modified: 2023-05-22 13:15:30 - Feat.: 1 - Title: Česko podpíše obrannú dohodu s USA, potvrdil Pentagon 02 - Modified: 2023-05-19 11:59:54 - Feat.: 1 - Title: Stačia iba štyri mesiace výcviku. USA prestáva vadiť export F-16 na Ukrajinu 03 - Modified: 2023-05-19 05:29:08 - Feat.: 1 - Title: "Zostaňte v krytoch až do odvolania." Ukrajina ďalšiu noc čelila ruským vzdušným útokom
01 - Modified: 2024-11-05 12:13:11 - Feat.: - Title: Slováci piť neprestanú a Fico má potenciál byť v politike aj v roku 2030, straší svojimi predpoveďami umelá inteligencia 02 - Modified: 2024-10-31 07:00:00 - Feat.: - Title: Apple spúšťa vlastnú AI. Nateraz bude pracovať v obmedzenej podobe 03 - Modified: 2024-10-30 21:03:28 - Feat.: - Title: Zisk majiteľa Facebooku v treťom kvartáli vzrástol o 35 percent, umelá inteligencia však bude drahšia 04 - Modified: 2024-10-29 20:11:34 - Feat.: - Title: Pentagon potvrdil, že v Kurskej oblasti je malý počet vojakov z KĽDR. Tisíce ďalších tam smerujú 05 - Modified: 2024-10-29 12:30:00 - Feat.: - Title: Zabila chlapca umelá inteligencia? Bol fascinovaný postavou z Game of Thrones, od samovraždy ho robot neodhovoril
menuLevel = 1, menuRoute = svet, menuAlias = svet, menuRouteLevel0 = svet, homepage = false
06. november 2024 00:28