Dreamstime
StoryEditor

Umelá inteligencia nám rozumie. To nie je iba fakt, to je varovanie

24.02.2023, 00:00

Kyberbezpečnosť bije na poplach.

S využitím umelej inteligencie žijeme už desiatky rokov. Všeobecný ošiaľ však nastal, keď sa začala s nami „rozprávať“. Máme pocit, že nám rozumie. To áno.

Tak si teraz predstavte, že máte prístup ku všetkým faktom zhromaždeným na internete. Zároveň viete, ako informácie súvisia, ako sa podobný problém riešil a aký to malo dosah. A to všetko viete zistiť nepredstaviteľnou rýchlosťou a ešte aj pekne povedať. Tak nejako pracuje populárny nástroj ChatGTP, ktorý zaberá päť najväčších superpočítačov vo svete.

Najslávnejší startup

V januári bolo výskumné laboratórium OpenAI ohodnotené na 29 miliárd dolárov. Cesta od nuly k súčasnej cene mu trvala iba sedem rokov a jeden mesiac. OpenAI rozpútal súboj technologických gigantov a z vedy urobil hit. Umelá inteligencia je však predovšetkým príležitosť pre firmy, vzdelávanie a nové profesie.

Riešenie sa ponúka

Na Slovensku je 160-tisíc záujemcov o zamestnanie a 82-tisíc otvorených pozícií. A určite musí byť spôsob, ako sa vzájomne nájdu tí praví, aby pasovali požiadavky, termíny aj náklady.

Startup Jobno.one používa umelú inteligenciu na prečítanie životopisu a jeho porovnanie s otvorenou pozíciou. A naopak. Záujemca nahrá životopis na portál, systém mu o pár sekúnd zobrazí otvorené pozície zoradené podľa zhody. Stačí kliknúť a inzerent otvorenej pozície dostane informáciu o záujemcovi do interného systému.

Drina každý deň

Od prvej myšlienky k veľkým investíciám to chlapcom z Job­no.one trvalo päť rokov. V minulom roku však prišlo 1,6 milióna eur a teraz testujú OpenAI a ChatGPT ako alternatívu k Azure AI, ktoré používajú. Systém je navrhnutý tak, že umelá inteligencia nesmie analyzovať vek, pohlavie, orientáciu či svetonázor. Porovnávajú sa iba schopnosti, skúsenosti a vzdelanie. „Máme takzvanú bias-free, čiže technológiu bez predpojatosti. V tom sme zatiaľ jedineční,“ vysvetľuje Jozef Belvončík.

Vizionársky nákup

Spoločnosť Ixperta investovala do startupu Sentisquare už v roku 2016. Reagovala tým na fakt, že kontaktné centrá dlhodobo trpia nedostatkom ľudí a ich význam bude rásť.

Vývojári nielenže učia stroj ľudskej reči, ale idú ešte ďalej. Naučili ho pochopiť kontext a vycítiť náladu zákazníka. Operátori v kontaktných centrách tak môžu použiť odporúčanú odpoveď a výrazne sa skracuje čas na spracovanie požiadavky zákazníka.

Ako však zo skúseností hovorí Andrej Kavický, na Slovensku stále narážajú na pasívne odmietanie takýchto riešení, v čom sa líšime od susedného Česka.

Jasná línia od začiatku

Aj keď je umelá inteligencia momentálne opäť na výslní, v bankovníctve nie je ničím novým. Príklady vidíme už desiatky rokov v digitalizácii a extrakcii informácií z dokumentov, v robotizácii alebo dokonca aj v elektronickom podpisovaní.

Ako ďalšiu úlohu si preto dali v Tatra banke pomáhať zákazníkom so správou ich financií, a preto každému dožičia v blízkej budúcnosti „virtuálneho finančného poradcu“.

Manažér dát a inovácií Daniel Minárik tu však zdôrazňuje, že kým dostanú zákazníci technológiu k dispozícii, prebieha hĺbková analýza možných dosahov. „Zodpovedná komunikácia v oblasti umelej inteligencie a edukácia zákazníkov a zamestnancov je to, čo nás odlišuje v rámci konkurenčného prostredia.“

Rovnako aj o chatbota Adama, ktorý je v prevádzke viac ako tri roky, sa stále stará tím odborníkov, ktorý dohliada na to, na akých dátach sa učí, koľko toho vie a čo odpovedá.

Veľmi citlivá oblasť

Pavol Helebrandt vedie na Fakulte informatiky a informačných technológií STU výskumnú skupinu zameranú na kyberbezpečnosť a siete. „Jednoduchšie štatistické a heuristické metódy v bezpečnosti sa začali používať v 90. rokoch,“ vysvetľuje. Dnes sa za umelú inteligenciu často považujú až výpočtovo náročnejšie techniky s úzko špecifickým zameraním, ako sú napríklad neurónové siete.

Tieto techniky sú postupne nasadzované približne od roku 2016 do rôznych bezpečnostných produktov a riešení, akými sú firewally či systémy na detekciu prieniku. Systémy na detekciu prieniku sa už „naučili“, ako vyzerá štandardná sieťová prevádzka, a vedia odhaliť anomálie alebo neštandardné správanie, napríklad skenovanie portov útočníkom.

Aj vy ju trénujete

S technologickým rozmachom, rastúcim počtom IoT a smart zariadení či cloudových služieb je využívanie metód strojového učenia čoraz sofistikovanejšie. Pre umelú inteligenciu takto vznikajú obrovské data sety, z ktorých sa dokáže učiť.

A navyše? „Ľudia väčšinou dobrovoľne odovzdávajú dáta prostredníctvom sociálnych sietí, svojich smart telefónov, hodiniek, domácností a smart všetkého,“ vysvetľuje bezpečnostný špecialista Jozef Bálint zo spoločnosti Alison Slovakia.

Prémiová premiéra

Keď bol nástroj ChatGTP koncom roka 2022 uvoľnený pre širokú verejnosť, jeho schopnosti mnohým doslova „vyrazili dych“, hovorí Michal Srnec, CISO spoločnosti Aliter Technologies.

To, čo vyrazilo dych profesionálom, je možnosť využiť nástroj v kybernetickej bezpečnosti. Takáto implementácia umelej inteligencie môže byť totiž použitá na hľadanie zraniteľností v kóde či písanie samotného škodlivého kódu.

Schopnosť generovať text v takmer ľubovoľnom jazyku vytvára priestor na masívnu tvorbu takzvaných spear phishingových kampaní. Takto dobre napísaný phishingový mail má vierohodnú formuláciu, ľudským pohľadom len veľmi ťažko rozoznateľnú.

Zákon o umelej inteligencii

Advokát so špecializáciou na IT právo a moderné technológie Miroslav Chlipala poukazuje na celoeurópsku jednotnú reguláciu. V závislosti od rizika umelej inteligencie bude daná aj miera jej regulácie. A pridáva aj príklady.

Medzi zakázané systémy budú patriť hračky s hlasovým asistentom, ktoré nabádajú na nebezpečné správanie. Do prísne regulovaných systémov sa radí softvér triediaci životopisy na účely ďalšieho výberu. Skupinu s obmedzeným rizikom budú tvoriť chatboti, kde bude povinnosť informovať používateľa o tom, že komunikuje s neživou bytosťou. Neobmedzené používanie umelej inteligencie bude pri videohrách a spamových filtroch.

Rozozná stroj dobro a zlo?

Dokáže stroj chápať, čo je správne a čo nie? Od odpovedí závisí, či rozvoj kognitívnych systémov bude pre kybernetickú bezpečnosť prínosom alebo hrozbou. Teda či sa budeme stretávať v budúcnosti častejšie s robotom, ktorý útočí, alebo s robotom, ktorý chráni.

„Čo sa týka bezpečnosti, v súčasnosti tu vidím umelú inteligenciu ako doktora Jekylla a zároveň pána Hyda zo slávneho hororu o protikladoch ľudskej povahy,“ hovorí Ivan Makatura z Kompetenčného a certifikačného centra kybernetickej bezpečnosti. A pridáva svoj povestný citát: „Nateraz je vážnym problémom ešte stále iba ľudská hlúposť, a nie umelá inteligencia.“

 

 

menuLevel = 1, menuRoute = hn-special, menuAlias = hn-special, menuRouteLevel0 = hn-special, homepage = false
14. júl 2024 14:30