Pri správne naformulovanom príkaze dokáže AI na základe dodaných dát racionálne a fakticky ponúknuť riešenia problémov, diagnostikovať ochorenia z medicínskych snímok či odhaľovať podvodné transakcie. Na druhej strane vie pracovať s veľkým množstvom dát, ktorých zber otvára otázky ich etického využívania. „Ľudia si neuvedomujú, do akej miery sú prostredníctvom AI ich údaje sledované a analyzované. Čoraz častejšie tak dochádza ku kybernetickým útokom, únikom a zneužívaniu dát,“ vysvetľuje Nikola Juríčková, špecialistka odboru bezpečnosti spoločnosti Slovenská elektrizačná prenosová sústava. Potenciálnym útočníkom poskytuje jednoduchší prístup k nástrojom na vytváranie škodlivého kódu, phishingových správ alebo na vydávanie sa za iné osoby s cieľom podvodu.
Vedecké štúdie zároveň ukazujú, že nadmerné používanie AI technológií môže viesť k zníženiu schopnosti kritického myslenia. Odporúčania a výsledky dodané AI ľudia automaticky prijímajú ako správne a pravdivé, bez ich ďalšieho overovania.
Ako správne využívať AI?
Základom je zodpovedný a proaktívny prístup. To znamená zdieľať dáta premyslene tak, aby nemohli byť ďalej zneužité. Sem radíme napríklad hľadanie inšpirácie či nápadov bez udania interných alebo citlivých údajov, preklad verejne dostupných textov alebo vytváranie zhrnutí, ktoré neobsahujú dôverné osobné ani firemné informácie. Naopak, za nebezpečné možno považovať vkladanie údajov, ako sú technické schémy, osobné údaje alebo zdrojové kódy, keďže takéto informácie môžu uniknúť.
„Medzi dáta, ktoré by sa nikdy nemali nahrávať do nástrojov AI, patria najmä výpisy z bánk a kreditných kariet, keďže sa s nimi spája vážne riziko krádeže identity a finančných podvodov,“ vysvetľuje Juríčková a ďalej dodáva: „rovnako poskytovanie lekárskych záznamov môže mať v prípade ich úniku vážne dôsledky pre súkromný aj pracovný život danej osoby.“ Problémové sú aj právne a zmluvné dokumenty, ktorých zdieľanie môže viesť k narušeniu dôvernosti a ďalším právnym dôsledkom.
Slepá dôvera sa nevypláca
AI je programovaná tak, aby človeku vždy poskytla odpoveď. Preto môže užívateľ ľahko nadobudnúť dojem, že poskytnuté informácie sú presné a správne. V prípade, že odpovedať nevie, technológia nemá problém umelo si vytvoriť dokumenty, na ktoré sa následne pre hodnovernosť poskytnutej odpovede odvoláva. Slepá dôvera k AI tak rozhodne nie je namieste. Naopak, všetky výstupy je nutné si overiť a údaje porovnať z viacerých nezávislých zdrojov.
AI a bezpečné fungovanie štátu
Odborníci dnes čelia hrozbám, ktoré ešte donedávna neexistovali. Riziká zahŕňajú nové spôsoby obchádzania bezpečnostných pravidiel pomocou AI ale aj v jej samotných nástrojoch, neoprávnené získavanie informácií vložených do týchto nástrojov používateľmi, zneužitie AI na identifikovanie zraniteľností systémov a sietí a na objavovanie nových ciest útokov. AI nástroje znižujú bariéru vstupu pre hackerov a umožňujú im spracovať veľké množstvo informácií na vykonávanie sofistikovaných kybernetických útokov. Medzi významné hrozby patrí aj pokročilý spear phishing, ktorý umožňuje vytváranie vysoko personalizovaných správ určených konkrétnym osobám alebo organizáciám.
Umelá inteligencia prináša do spoločnosti i našich životov nielen nové možnosti, ale aj výzvy. Organizácie preto musia neustále investovať do moderných bezpečnostných riešení, vzdelávania odborníkov a zvyšovania povedomia o kybernetických hrozbách. Rovnako dôležitú úlohu zohráva aj samotný človek, pretože mnohé útoky sú cielené na ľudskú chybu. Je preto nevyhnutné, aby používatelia aj zamestnanci v organizáciách pristupovali k digitálnemu prostrediu zodpovedne, rozvíjali svoje kritické myslenie a vedeli rozpoznávať podozrivé správy či aktivity. „Len kombinácia technologických opatrení a uvedomelého prístupu ľudí môže zabezpečiť ochranu pred čoraz sofistikovanejšími útokmi. Umelá inteligencia bude v budúcnosti zohrávať ešte významnejšiu úlohu, preto je dôležité už dnes vzdelávať ľudí, aby pri jej využívaní vždy mysleli na bezpečnosť a zodpovedný prístup,“ uzatvára Juríčková.
