V automobile, ktorý sa ovláda sám, sedia traja ľudia. Jeden z nich je dospelý muž a dvaja malí chlapci. Po prechode na červenú ide jedna dospelá žena a dve dievčatá, kto by mal zomrieť? Nejde o nekorektnú matematickú úlohu, ale iba o jednu z mnohých modelových etických otázok, pred ktoré vás postaví projekt Moral Machine, píše iDNES.cz.
"S rýchlym vývojom umelej inteligencie pribúdajú tiež obavy, ako sa budú stroje správať v zložitých morálnych situáciách," píše sa hneď v prvom odseku odborného článku pre časopis Nature, v ktorom skupina vedcov z Massachusettského technologického inštitútu (MIT) publikovala svoje výsledky zozbierané pomocou jednoduchého internetového dotazníka Moral Machine.
Vývojové centrum má aj nemecká automobilka BMW. Pozrite sa, ako vyzerá:
Dotazník síce viac než čokoľvek iného pripomína cynickú hru, v skutočnosti sa však snaží odpovedať na zložité etické otázky, ktoré budú formovať ďalší vývoj umelej inteligencie v blízkej budúcnosti.
V trinástich modelových situáciách sa účastník stane pánom nad životom a smrťou niekoľkých desiatok animovaných postavičiek. V každej simulácii musí niekto zomrieť. Smrtiacim nástrojom je následne vždy autonómne riadené vozidlo.
Výskum síce nepracuje s osobnými vzťahy, ale zohľadňuje kritériá ako vek prípadných obetí, ich sociálny status alebo zdravie. Niektoré otázky sa týkajú aj domácich zvierat. A tiež sa zohľadňuje, či chodci prechádzajú na zelenú, alebo porušujú pravidlá.
Vedcom sa od začiatku projektu v roku 2016 nakoniec podarilo zohnať rozsiahly súbor dát. Postupne zozbierali približne 40 miliónov hodnotení od miliónov ľudí z celého sveta. Dáta z 233 krajín starostlivo zanalyzovali a roztriedili. Výsledky ukázali, že nie každý človek má pre ostatných rovnakú cenu. To, čo pri rozhodovaní je a nie je dôležité, sa navyše líši podľa jednotlivých regiónov.
Najčastejšie by ľudia po celom svete chránili dieťa v kočíku. Malé deti sa celkovo umiestnili na prvých troch priečkach. Ľudia sa v modelových situáciách snažili obhajovať ich život najčastejšie. Naopak zle by dopadli starí ľudia. Kto si môže gratulovať, sú lekári a lekárky. Hodnotiaci si ich vážili viac ako atletických mužov a ženy, predbehli aj skupiny manažérov.
Väčšia šanca pre bezdomovcov než seniorov
Ak by sa verejná mienka stala jadrom programu autonómnych vozidiel, výrazne zníženú šancu na prežitie by mali kriminálnici. V celkovom globálnom hodnotení skončili ako druhí najhorší. Predbehli síce posledné mačky, na druhej strane by však ľudia častejšie zachránili psa ako trestanca. Nad psov sa umiestnili seniorky a seniori. Ich kreslené postavičky sa však stávali obeťami fiktívnych dopravných nehôd častejšie než ľudia bez domova a ľudia s nadváhou.
Kultúrne sa vedcom podarilo oddeliť od seba tri špecifické skupiny, ktoré sú nazvané podľa regiónov jednoducho ako západná, východná a južná. Súčasťou projektu bola aj susedná Česká republika či Slovensko. Boli sme zaradení do južnej skupiny spoločne s Francúzskom a Maďarskom, ale aj Venezuelou alebo Mongolskom.
V tejto skupine vedci pozorovali zvýšenú tendenciu zachraňovať ženy alebo ľudí v dobrej fyzickej kondícii. Väčšiu šancu na prežitie by tu mali oproti dvom zvyšným základným skupinám domáci maznáčikovia. Naprieč kultúrami sa naopak prejavila len slabá tendencia preferovať životy chodcov nad životy pasažierov v automobile a len umiernená snaha zvýhodňovať chodcov, ktorí sa držali zákona a prechádzali na zelenú.
Dilemy musí vyriešiť človek
Hoci samotný výskum môže pôsobiť len ako zaujímavá filozofická hračka, v skutočnosti sa dotýka citlivého problému, ktorým sa vývojári autonómne riadených systémov začínajú zaoberať.
"Znie to hrozne, ale práve výsledky výskumu typu Moral Machine napríklad ukážu, že rozhodovanie ľudí v situácii, keď niekto musí zomrieť, sa riadi pravidlami typu, jedno dieťa zachránim radšej ako troch alebo štyroch starcov, ale ak starcov bude osem, preferujem osem životov .To znamená, že aj keď o tom nechceme hovoriť, tak akúsi "prevodovú tabuľku" v hlave máme," hovorí profesor Jiří Maťaš z ČVUT, ktorý sa zaoberá vývojom autonómnych systémov.
O tom, či budú stroje v budúcnosti schopné riešiť zložité morálne dilemy, Mataš nepochybuje. "Problémom je sa dohodnúť na pravidlách, ktoré potom stroje implementujú. Inými slovami dilemy musí vyriešiť človek, stroj sa nimi len bude riadiť," vysvetľuje Mataš.
Technologická úroveň, pri ktorej sa stroje môžu dostať do takto zložitých situácií, je pre odborníkov nová. Za vývojom však vždy stojí človek a stroje sú prispôsobované našim hodnotovým kritériám.
"Automobilky implementujú to, na čom sa spoločnosť dohodne. Projekt typu Moral Machine začne vyjasňovať, čo je v spoločnosti chápané ako menšie zlo, a z toho vyplynú pravidlá správania," dopĺňa Mataš.