Predplatné

Články s tagom: new fakes

Európska legislatíva o ochrane dát GDPR, ktorá vstúpi do platnosti v polovici roka 2018, robí vrásky rade veľkých firiem. Tie budú musieť do budúcna zabezpečiť ukladanie súkromných užívateľských dát v súlade s veľmi prísnymi zákonmi, a to pod hrozbou miliónových pokút. Ide napríklad o právo užívateľov na výmaz z databázy, na výpis dát, ktoré firma o užívateľovi ochraňuje pod.

Jedno nové právo - právo na vysvetlenie - ale robí starosti firmám využívajúcim umelú inteligenciu, konkrétne strojové učenie pomocou neurónových sietí.

Z povahy fungovania neurónových sietí totiž vyplýva, že nie je jednoduché vysvetliť, prečo počítač urobil tie závery, ktoré urobil. "Na rozdiel od štandardných algoritmov, ktoré používajú rozhodovanie ak-potom (if-then), sa strojové učenie neurónových sietí podobá čiernej skrinke. Nikto presne nevie, čo sa deje vo vnútri a prečo sa skrinka rozhodla tak a nie onak, "píše Juraj Jánošík z bezpečnostnej firmy ESET.

Príkladom je jednoduchý e-shop, ktorý zákazníkovi odporučí, aké knihy by si mal kúpiť na základe jeho predchádzajúcich objednávok. E-shop na to využíva umelú inteligenciu, ktorá analyzuje tisíce ďalších zákazníkov a ich históriu objednávok. Výsledkom je odporúčanie, ktoré môže využívať desiatky rôznych parametrov.

Pokiaľ by ale zákazník požadoval konkrétne a detailné vysvetlenie, prečo mu systém odporučil práve tú knihu a nie inú, nebude firma pravdepodobne vedieť ponúknuť prijateľnú odpoveď nad rámec "systém si to myslí".

Pokiaľ ide o odporúčanie knižiek, tak ešte o nič nejde. Ale podobný systém strojového učenia by tiež mohol "rozhodovať" o tom, či človek dostane pôžičku v banke, koľko zaplatí za cestovné poistenie alebo či bude prepustený z väzenia. Je jasné, že čím častejšie bude strojové učenie využívané, tým dôležitejšie veci budú elektronické mozgy rozhodovať. To je významný problém, a to nielen z hľadiska technologického, ale aj právneho, poťažmo aj psychologického.

Ľudský mozog totiž čelí podobnému problému, aj keď si to málokto pripúšťa. Keď sa vás niekto spýta, prečo ste sa rozhodli dať si k obedu pizzu a nie šalát, môžeme si myslieť, že ten dôvod poznáme. Prvadepodobne je to však spätná racionalizácia a skutočný dôvod nášho rozhodnutia nám je skrytý, upozorňuje psychológ Daniel Kahneman, držiteľ Nobelovej ceny za ekonómiu. Musíme si zvyknúť, že pôvod problémov, ktoré vyčítame počítačovej umelej inteligencii, môžeme často hľadať sami u seba.

Nebudete veriť vlastným očiam! Český dátový analytik František Vrábel získal renomé, ktoré upútalo NATO, vlády USA a Veľkej Británie. Spolupracuje s nimi na identifikáciách hrozieb dezinformácií. Publicistika

Zobraziť viac

Rozhovor týždňa: Martin Královič