Ako sa má počítač rozhodnúť v prípade, že sa nedá zabrániť stratám na životoch? Vedci skúmali vnímanie klasickej etickej dilemy. Prvá časť výsledkov je celkom možné predvídať: ľudia chcú, aby autá robili etické rozhodnutia, pokiaľ nejde o život práve im. Dôsledky tohto merania sú ale zaujímavejšie.
Autá, ktoré dokážu na ceste fungovať bez vodiča, sa stávajú realitou. Vozový park Google sa rozširuje a na uliciach v Kalifornii už sú autonómne autá pečené varené - a zatiaľ veľmi bezpečné. Ďalšie firmy (napr. Tesla, Volkswagen alebo Mercedes) sú tiež aktívne a celkovo to vyzerá, že revolúcia sa v tomto prípade odohrá oveľa rýchlejšie, než sme si pred piatimi rokmi mysleli. Lenže auto plne ovládané umelou inteligenciou so sebou prináša aj mnoho otázok právnických až filozofických: kto môže za to, keď auto nabúra? A konkrétnejšie: aké etické rozhodovanie by sme mali robotické auté "naučiť"? Píše Pavel Kasík pre idnes.cz.
Všeobecne sa má za to - a doterajšie testy to potvrdzujú - že robotické autá výrazne znížia počet nehôd na cestách. Nie je ťažké pochopiť prečo: ľudia zle odhadujú vzdialenosť, zaspávajú za volantom, riadia opití a zmätkujú. Nič z toho od počítačov nečakáme.
Počítač je ale úplne racionálny aj v situácii, keď ľudský vodič reaguje úplne inštinktívne. Pred autom je z ničoho nič človek, ak sa mu vyhnete, ohrozujete svoj vlastný život a život svojich pasažierov. Nemáte šancu domyslieť počas pol sekundy všetky etické aspekty svojho rozhodnutia. Počítač ale áno. Otázka znie, ako by takéto rozhodnutie malo vyzerať. "Aj keby išlo o úplne nezvyčajné situácie, programátor rovnako musí naprogramovať, ako sa v takejto situácii auto zachová," píše Jean-François Bonnefon a jeho kolegovia. Vo svojom výskume - publikovanom v prestížnom vedeckom časopise Science - si dali za úlohu zistiť, ako ľudia očakávajú, že by sa autonómne autá mali rozhodovať v kritických situáciách, keď je takmer isté, že niekto zomrie.
Všeobecne možno identifikovať dva princípy, podľa ktorých sa dá v takomto prípade rozhodnúť:
- "Utilitárny" princíp väčšieho dobra - podľa tohto mravného princípu by mala byť zvolená možnosť, ktorá vedie k menšiemu utrpeniu, zjednodušene teda ohrozenie menšieho počtu ľudí. Týmto smerom uvažoval Asimov, keď navrhol slávne tri zákony robotiky.
- "Sebecký" princíp ochrany seba samého - druhý princíp vychádza z ľudského pudu sebazáchovy a hovorí, že každý sa snaží predovšetkým zachrániť seba, a až potom sa môže obzerať na ostatných.
Výskumníci predložili rôzne scenáre v šiestich on-line štúdiách celkom 1 928 účastníkom. Výsledky možno zhrnúť do jednoduchého a nepríliš prekvapivého záveru: "Ľudia schvaľovali naprogramovanie samoriadiacích automobilov tak, aby automobil obetoval svojho pasažiera, pokiaľ tým môže zachrániť väčšie množstvo ľudí. Účastníci by tiež chceli, aby si takéto auto kupovali ostatní ľudia. Oni sami pre seba by ale preferovali, keby ich samoriadiace auto chránilo v kritickom okamihu ich život, nie životy ostatných."
Aká je teda najlepšia stratégia predaja? Na tom, že ľudia chcú pre seba niečo iné, než pre ostatných, nie je nakoniec nič nové. Každý by chcel, aby ostatní stáli poslušne v rade (dodržiavali etickú normu), avšak skoro každý by ocenil, ak by mohol dlhý rad predbehnúť (porušiť etickú normu). Etika pozná tento problém ako princíp užitočnosti pre celok (anglicky: greater good, teda väčšie dobro). Bonnefon a jeho kolegovia ale ukázali, že v prípade samoriadiacich áut môže táto prirodzená ľudská preferencia viesť k zaujímavému pragmatickému riešeniu.
Je možné, domnievajú sa na základe výskumu vedci, že ľudia si nebudú chcieť kupovať autá, ktoré by nemali za úlohu ich ochranu. Zatiaľ sme totiž zvyknutí na to, že auto chráni predovšetkým svojich pasažierov: bezpečnostné pásy, airbagy, deformačné zóny, to všetko má zvýšiť bezpečnosť ľudí vnútri auta. Zaplatiť za auto, ktoré by v prípade voľby zvolilo "morálnu variantu" aj na úkor svojho majiteľa, to sa mnoho ľuďom prieči.
Auto, ktoré by za každú cenu chránilo majiteľa, malo 50 bodov obľúbenosti (medián hodnotenie na škále 1 až 100), zatiaľ čo u auta, ktoré by bolo naprogramované "eticky", klesla jeho obľúbenosť na 19 bodov. Inými slovami, hoci účastníci súhlasili, že etické auto je pre spoločnosť lepšie, radšej by si kúpili auto, ktoré ich bude ako tank chrániť "hlava nehlava". "Na svete je mnoho príkladov, kedy všetci majú pokušenie viezť sa na obetavosti ostatných," pripomínajú autori štúdie. "Zvyčajným riešením je regulácia, ktorá vynúti správanie, ktoré vedie k všeobecne prospešnému výsledku." Ale jeden z šiestich prieskumov, ktorý vedci vykonali, ukázal, že vynútenie "etického algoritmu" by mohlo citeľne znížiť atraktivitu takýchto áut a tým aj spomaliť ich predaj.
Menej predaných samoriadiacich áut by tak paradoxne znamenalo, že regulácia, ktorá mala zachrániť viac životov, ich tak nakoniec viac zmarila. Vedci odhadujú, že samoriadiace autá zachránia oveľa viac životov tým, že nahradia vodiča. Úplne výnimočné situácie, keď auto musí voliť medzi tým, koho zachráni, majú na celkové čísla pramalý vplyv. Ale naprogramovať autá v štýle sebeobetavých jazdcov by znamenalo znížiť ich predaj a tým zvýšiť nehodovosť oproti stavu, keď by viac ľudí kúpilo samoriadiace (hoci "sebecká") autá. Podobných paradoxov bude vo svete, kde počítače rozhodujú, určite viac. "Nájsť spôsob, ako naprogramovať etické samostatné stroje, je jedna z najtŕnitejších výziev v skúmaní umelej inteligencie," domnievajú sa vedci. "Naším výskumom sme chceli ukázať na jeden zo spôsobov, ako k tejto výzve pristúpiť a ako zmerať očakávania ľudí v tejto oblasti."