„Pri nesprávnom použití môžu technológie viesť (a vedú) k zhoršeniu kognitívnych schopností, ktoré by mali byť zachované. Ako poznamenal Bainbridge (v článku Ironies of Automatization z roku 1983), hlavná irónia automatizácie spočíva v tom, že mechanizáciou rutinných úloh a ponechaním spracovania výnimiek na ľudskom používateľovi, zbavujete používateľa rutinnej príležitosti precvičovať svoj úsudok a posilňovať svoje kognitívne svalstvo, čím sa stáva atrofovaným a nepripraveným na moment, kedy sa výnimky naozaj objavia,“ znie jedna z premis uvedená v úvode práce.
Zatiaľ čo predchádzajúce výskumy vplyvu nástrojov generatívnej umelej inteligencie pojednávali predovšetkým o pamäti a kreativite, nová štúdia spoločnosti Microsoft a Carnegie Mellon University (The Impact of Generative AI on Critical Thinking: Self-Reported Reductions in Cognitive Effort and Confidence Effects From a Survey of Knowledge Workers (PDF v origináli a plnom znení tu) sledovala dopad na takzvané „kritické myslenie“.
Pomáha AI, či nie?
Základom štúdie bol prieskum správania 319 znalostných pracovníkov a analýza 936 príkladov konkrétneho použitia niektorého zo súčasných nástrojov generatívnej umelej inteligencie.
„Dáta ukazujú posun v kognitívnom úsilí, pretože znalostní pracovníci sa pri používaní GenAI stále viac presúvajú od vykonávania úloh k dohľadu nad jeho výsledkom,“ napísali výskumníci.
„Prekvapivo, aj keď AI môže zvýšiť efektivitu, môže tiež znížiť kritické zapojenie, najmä pri rutinných alebo menej náročných úlohách, pri ktorých sa používatelia jednoducho spoliehajú na AI. To vyvoláva obavy z dlhodobého spoľahnutia sa na tieto nástroje a zníženie schopnosti samostatného riešenia problémov,“ znie jeden zo záverov štúdie.
Zároveň sa ukázalo, že skupina používateľov využívajúca nástroje generatívnej umelej inteligencie vytvára pre rovnakú úlohu oveľa menej rôznorodé výsledky, než používatelia bez prístupu k týmto nástrojom. „To odráža nedostatok osobného, kontextuálneho, kritického a reflexívneho posudzovania výstupov – a možno ju teda interpretovať ako zhoršenie kritického myslenia,“ tvrdia autori štúdie.
Rozdiel závisí od dôvery vo vlastné schopnosti
Výskum zistil, že pracovníci, ktorí si sú pri riešení úlohy istí (vedia že majú schopnosť úlohu vyriešiť), s väčšou pravdepodobnosťou použijú kritické myslenie na overenie kvality výstupov použitej AI služby.
Svoje schopnosti využijú na overenie jeho správnosti a prípadne jeho vylepšenia alebo rozšírenia. Oproti tomu tí, ktorí si riešením danej úlohy nie sú takí istí, často jednoducho len predpokladajú, že generatívna AI vytvorila adekvátne odpovede, a neobťažujú sa premýšľať o ich správnosti a kvalite výstupu. Svoje schopnosti teda pri plnení úlohy nevyužijú.
Z výskumu tiež vyplynulo, že tým, čo majú dôveru v systémy generatívnej AI, potreba použiť kritické myslenie klesá. A tí, ktorí veria predovšetkým vo svoje schopnosti, majú tendenciu venovať skúmaniu odpovedí AI modelov oveľa viac pozornosti.
Podľa autorov štúdie nemajú jej závery volať po obmedzovaní využívania AI nástrojov, ale po vylepšení nástrojov v interakcii s používateľom – používateľ by mal byť podporovaný v tom, aby sa na výstup AI nástroja pozeral kritickým myslením, aby mal snahu vylepšovať a optimalizovať ich výstup – aby ho nebral ako hotovú vec, ale ako základ pre svoju ďalšiu prácu.
Nástroje majú používateľom pomôcť s rozpoznaním spoľahlivosti riešenia danej úlohy a ponúknuť ovládacie prvky, ktoré im umožnia regulovať mieru AI asistencie podľa práve riešenej úlohy.