Dreamstime
StoryEditor

Môžete ju zbožňovať. Môže vás desiť. Umelá inteligencia

28.06.2024, 00:00

Umelá inteligencia sa vybrala rôznymi cestami. Na jednej nájdete špičkové riešenia vrátane bezpečnosti, na inej halucinácie.

Skončila sa éra „vynorovania“ kybernetických bezpečnostných špecialistov a začal sa boom špecialistov na umelú inteligenciu.

Ironický postreh je od kyberbezpečnostného profesionála Romana Čupku, napísal ho ešte v roku 2022 a stále si za ním stojí: „Rozmach tejto ďalšej éry digitálnej transformácie je skutočne robustný. Cítiť to nielen na akciových trhoch, ale aj v bežnom živote.“

Fakty nepustia

Aplikácie na báze umelej inteligencie používa čoraz širšie spektrum používateľov. Peter Bakonyi zo spločnosti Aliter Technologies sa venuje umelej inteligencii už šesť rokov a v praxi sa stretáva s jej rastúcou akceptáciou. „Využitie AI má obrovský potenciál v každej oblasti. Zatiaľ sa však ľudia iba učia efektívne ju používať.“

Podľa jeho skúseností sa umelá inteligencia vo firmách najviac uplatňuje v programátorskej oblasti. „Generovanie zdrojového kódu, ladenie alebo optimalizácia sú len niektoré príklady, ako sa AI aplikuje v každodenných úlohách,“ vysvetľuje Peter Bakonyi a zároveň verí, že ak by sa zlepšila osveta, padlo by mnoho ďalších bariér.

Napríklad vytvorenie kvalitného modelu na spracovanie textu je ešte stále drahá záležitosť. A pritom niekedy je potrebné iba trochu zmeniť existujúcu aplikáciu, aby splnila požadovanú úlohu.

Posun je dramatický

V zdravotníctve umelá inteligencia výrazne zlepšila diagnostiku a personalizovanú starostlivosť. V marketingu poháňa chatbotov a virtuálnych asistentov, logistika sa preberá do zlatej éry. Technologické inovácie umožnili AI systémom ešte efektívnejšie spracovávať a analyzovať veľké množstvá dát.

Umelá inteligencia pomáha dokonca aj pri takých ťažkých úlohách, ako je detekcia a prevencia kybernetických útokov v reálnom čase. Metódy pokročilých algoritmov dokážu analyzovať obrovské množstvá dát, identifikovať anomálie a potenciálne hrozby skôr, než spôsobia škodu.

Niet cesty späť

„Vzhľadom na to, že útoky sú čoraz sofistikovanejšie a tradičné metódy ochrany zlyhávajú, je postupné nasadzovanie a používanie technológií s podporou AI viac-menej nevyhnutné,“ hovorí Jozef Bálint zo spoločnosti Alison Slovakia.

V kyberbezpečnosti sa hrá o čas, takže moderné riešenia už majú okamžitý prístup k stovkám zdrojov, dokážu analyzovať tisícku rôznych dátových formátov a súčasne využívajú aktuálne reporty zo senzorov sieťových zariadení.

Po dňoch a nociach pred obrazovkou počítača a po čítaní alertov sa však Jozef Bálint hlási k výroku – umelá inteligencia je inteligentná iba natoľko, akí boli inteligentní tvorcovia daného algoritmu.

Detaily robia rozdiel

S využitím veľkých jazykových modelov experimentujú aj kyberbezpečnostní profesionáli v slovenskej jednotke CERT. „Aby použitie umelej inteligencie malo zmysel, model musí byť dobre natrénovaný,“ upozorňuje Milan Pikula, riaditeľ SK-CERT. Takže môžeme nechať AI, nech hľadá zlo v systéme a hlási incidenty a navrhuje riešenia, ale bez človeka to ešte stále nebude mať hlavu a pätu.

Umelá inteligencia pozná celý internet, ale neberie do úvahy lokálny kontext v organizácii. V kyberbezpečnosti preto ešte dlho budú ľudia, ktorí si odporúčanie prečítajú a posúdia ich v kontexte monitorovaného prostredia.

Snaživá viac, ako treba

S príchodom AI aplikácií ožilo slovo „halucinácia“. Predstavte si to ako na pohovore, kde dostaneme otázku, na ktorú nevieme odpovedať. Tak si niečo vymyslíme, aby sme neboli ticho, a toto isté robí aj umelá inteligencia!

AI nástroje niekedy podajú informáciu natoľko sugestívne, že ju nespochybňujeme a ne­overujeme, a presne to sa nám môže vypomstiť. V horších prípadoch to môže byť zdrojom dezinformácií.

Halucinácie a fabulácie modelov sa postupne znižujú, ale závisí to aj od toho, o aký typ AI ide. Na generovanie textu napríklad už existujú postupy, aby bol výstup AI z konkrétnych zdrojov, čím sa znižuje riziko halucinácií.

Čo trápi profesionálov

Okrem spomínaných pozitívnych prínosov pri diagnostike pacientov, úpravách a tvorbe programátorských kódov či rýchlejšej analýze kyberhrozieb upozorňuje Roman Čupka aj na tú temnejšiu stránku uplatnenia umelej inteligencie.

Už od roku 2016 je znateľný vplyv tejto technológie pri ovplyvňovaní politických súbojov v demokratických voľbách. Odvtedy sa umelá inteligencia dostala takmer do každej so­ciálnej siete a začína veľmi jednoducho meniť správanie ľudí.

Šikovní jednotlivci a marketéri dokážu využiť dátový a jazykový model so zacielením na tie najnižšie pudy ľudskej bytosti, ako sú strach či žiadostivosť.

Legislatívny semafor

Mnohé organizácie a inštitúcie si negatívny dosah umelej inteligencie uvedomujú a presadzujú smernice a národné regulácie, aby vyhliadky čo najviac zbrzdili.

V minulom roku predstavila Európska únia ako prvá na svete dohodu o pravidlách pre umelú inteligenciu. Cieľom je, aby boli AI systémy uvádzané na trh bezpečné a rešpektovali základné práva a hodnoty Únie. Rovnako však Únia vyzýva na investície a inovácie v tejto oblasti.

Zdravý sedliacky rozum

Ľudia žijúci v bohatších ekonomikách vnímajú produkty a služby využívajúce umelú inteligenciu menej pozitívne. Odborníci predpokladajú, že to súvisí s kritickým myslením a emocionálnym kvocientom.

V súčasnosti radi a často využívame nástroje, ktoré nám šetria čas. No stále zostáva dôležité prekontrolovať si výsledky a uvedomiť prípadné dosahy. Na pravidle „zdravého rozumu“ sa vzácne zhodujú profesionáli z oblasti umelej inteligencie aj kybernetickej bezpečnosti.

menuLevel = 1, menuRoute = hn-special, menuAlias = hn-special, menuRouteLevel0 = hn-special, homepage = false
08. október 2024 12:44