Európska legislatíva o ochrane dát GDPR, ktorá vstúpi do platnosti v polovici roka 2018, robí vrásky rade veľkých firiem. Tie budú musieť do budúcna zabezpečiť ukladanie súkromných užívateľských dát v súlade s veľmi prísnymi zákonmi, a to pod hrozbou miliónových pokút. Ide napríklad o právo užívateľov na výmaz z databázy, na výpis dát, ktoré firma o užívateľovi ochraňuje pod.
Jedno nové právo - právo na vysvetlenie - ale robí starosti firmám využívajúcim umelú inteligenciu, konkrétne strojové učenie pomocou neurónových sietí.
Z povahy fungovania neurónových sietí totiž vyplýva, že nie je jednoduché vysvetliť, prečo počítač urobil tie závery, ktoré urobil. "Na rozdiel od štandardných algoritmov, ktoré používajú rozhodovanie ak-potom (if-then), sa strojové učenie neurónových sietí podobá čiernej skrinke. Nikto presne nevie, čo sa deje vo vnútri a prečo sa skrinka rozhodla tak a nie onak, "píše Juraj Jánošík z bezpečnostnej firmy ESET.
Príkladom je jednoduchý e-shop, ktorý zákazníkovi odporučí, aké knihy by si mal kúpiť na základe jeho predchádzajúcich objednávok. E-shop na to využíva umelú inteligenciu, ktorá analyzuje tisíce ďalších zákazníkov a ich históriu objednávok. Výsledkom je odporúčanie, ktoré môže využívať desiatky rôznych parametrov.
Pokiaľ by ale zákazník požadoval konkrétne a detailné vysvetlenie, prečo mu systém odporučil práve tú knihu a nie inú, nebude firma pravdepodobne vedieť ponúknuť prijateľnú odpoveď nad rámec "systém si to myslí".
Pokiaľ ide o odporúčanie knižiek, tak ešte o nič nejde. Ale podobný systém strojového učenia by tiež mohol "rozhodovať" o tom, či človek dostane pôžičku v banke, koľko zaplatí za cestovné poistenie alebo či bude prepustený z väzenia. Je jasné, že čím častejšie bude strojové učenie využívané, tým dôležitejšie veci budú elektronické mozgy rozhodovať. To je významný problém, a to nielen z hľadiska technologického, ale aj právneho, poťažmo aj psychologického.
Ľudský mozog totiž čelí podobnému problému, aj keď si to málokto pripúšťa. Keď sa vás niekto spýta, prečo ste sa rozhodli dať si k obedu pizzu a nie šalát, môžeme si myslieť, že ten dôvod poznáme. Prvadepodobne je to však spätná racionalizácia a skutočný dôvod nášho rozhodnutia nám je skrytý, upozorňuje psychológ Daniel Kahneman, držiteľ Nobelovej ceny za ekonómiu. Musíme si zvyknúť, že pôvod problémov, ktoré vyčítame počítačovej umelej inteligencii, môžeme často hľadať sami u seba.Pixabay
Český dátový analytik František Vrábel získal renomé, ktoré upútalo NATO, vlády USA a Veľkej Británie. Spolupracuje s nimi na identifikáciách hrozieb dezinformácií.
Jeho firma Semantic Visions sleduje až 90 percent celosvetového spravodajského obsahu, čo predstavuje milión článkov denne monitorovaných zo 600-tisíc zdrojov. „Z digitálnej totality mám skutočne strach. Nie zo strany štátu – ak sa nestaneme čínskou kolóniou –, ale zo strany bezškrupulóznych digitálnych barónov typu Marka Zuckerberga,“ hovorí Vrábel pre HN.
Digitálni gangstri
Stvoriteľa Facebooku pokladá za monštrum a jeh...
Tento článok je určený iba pre predplatiteľov. Zostáva vám 85% na dočítanie.
01 - Modified: 2019-09-26 11:58:00 - Feat.: 0 - Title: Kto ovláda dáta, ovláda budúcnosť
02 - Modified: 2019-09-26 11:53:09 - Feat.: 0 - Title: V boji proti propagande sme sami
01 - Modified: 2024-09-25 13:05:20 - Feat.: - Title: Objem online dezinformácií v prvých dňoch povodní v Poľsku stúpol o 300 percent
02 - Modified: 2024-08-27 15:30:00 - Feat.: - Title: KOMENTÁR: Držme Kaliňákovi palce
03 - Modified: 2024-08-21 14:51:41 - Feat.: - Title: Slovenská polícia vydala Česku podozrivého dezinformátora, mieri na súd
04 - Modified: 2024-08-14 22:00:00 - Feat.: - Title: Český komunikačný expert: Podporovatelia Ruska sú len nahnevaní a zatrpknutí. Nemôžeme byť voči nim zmierliví
05 - Modified: 2024-08-06 12:52:49 - Feat.: - Title: Elon Musk písal o občianskej vojne v Británii. Veľmi nezodpovedné, kritizuje jeho vyjadrenia Londýn