Správa, ktorú vlani zverejnila austrálska ministerka komunikácií Anika Wellsová na podporu zákazu sociálnych sietí pre deti do 16 rokov, obsahuje viacero chýb spôsobených pravdepodobne takzvanými halucináciami umelej inteligencie (AI).
Vyplýva to z analýzy denníka The Guardian. Autori štúdie síce pripúšťajú, že používali produkt ChatGPT od spoločnosti OpenAI na úpravy textu, odmietajú však, že by ho využili na generovanie samotného obsahu alebo použitých citácií.
AI citácie
Správa, ktorú Wellsová zverejnila pred rokom, vyhodnocovala test technológií na overovanie veku za 3,48 milióna austrálskych dolárov (približne 2,1 milióna eur).
Za experimentom aj výslednou správou stála britská organizácia Age Check Certification Scheme (ACCS). Austrálsky parlament zákaz schválil na konci predvlaňajšieho novembra a rozhodnutie nadobudlo účinnosť vlani 9. decembra.
Väčšina správy vychádza z testov, ktoré autori vykonali pri rôznych v súčasnosti dostupných technológiách na overovanie veku. Jedna kapitola sa však zaoberá novými technológiami a cituje viacero odborných článkov o potenciálnych nových spôsoboch overovania veku.
V pokračujúcom senátnom vyšetrovaní, ktorého cieľom je posilniť vynucovanie zákazu sociálnych médií, bolo predložené podanie, ktoré poukazuje na najmenej dve chyby v citáciách uvedené v správe. „Citácie (…) sa zdajú byť skôr výsledkom halucinácií AI než citáciou skutočných zdrojov,“ uvádza sa v podaní.
Hovorca ACCS tento mesiac na otázku austrálskej redakcie The Guardian najprv poprel akékoľvek použitie AI pri tvorbe správy, neskôr však pripustil, že AI bola využitá na prepracovanie a skrátenie niektorých odsekov.
„Pri tvorbe správy ani citovaných materiálov sme umelú inteligenciu nepoužili. Vždy sme overili, či ide o autentické odkazy a správy a či sú relevantné pre konkrétnu citovanú problematiku,“ uviedol hovorca.
Analýza The Guardian však v rovnakej časti odhalila šesť citácií, ktoré obsahovali chyby. Napríklad identifikátory akademických textov (DOI) odkazovali na neexistujúce články, prípadne DOI odkazovali na iné než uvedené články, ďalej kombinácie autora, periodika a roka vydania nezodpovedali skutočným citáciám.
V niektorých prípadoch sa obsah odkazu nezhodoval s tým, čo správa tvrdila.
Chyby
Hovorca neskôr poskytol Guardianu vysvetlenie a nové odkazy na výskum, z ktorého ACCS vychádzala, ale aj táto odpoveď obsahovala chyby.
Zoznam článkov v odborných časopisoch, ktorý mal opraviť chyby v správe, obsahoval roky, mená autorov a názvy časopisov, ktoré nezodpovedali pôvodným citáciám v správe.
Jeden z článkov, ktorý ACCS citovala, mal byť zobrazený v marci 2025. Jeden z hlavných autorov tejto štúdie však The Guardian potvrdil, že článok v tom čase nebol verejne prístupný, bol totiž publikovaný až v júni 2025.
Akademik tiež potvrdil, že osoba pôvodne citovaná ako hlavný autor článku, „Jamil“, v článku nikdy nefigurovala a že správa ACCS článok zhrnula nesprávne.
Hovorca pripustil využitie AI až po tom, čo The Guardian identifikoval v častiach E a K správy štyri odkazy, ktorých metadáta označovali ChatGPT ako zdroj. Tvrdil však, že zahrnutím metadát ChatGPT organizácia využitie AI sama priznala, a keďže išlo o správne odkazy, ACCS v tom nevidí nič problematické.
Vlani sa pre halucinácie AI dostala do problémov aj poradenská spoločnosť Deloitte, a to opakovane. Austrálska pobočka mala vláde vrátiť časť zo 440-tisíc austrálskych dolárov (približne 265-tisíc eur) zaplatených za správu, ktorá obsahovala vymyslené citácie z rozsudku federálneho súdu a odkazy na neexistujúce vedecké práce.
Deloitte po kritike 237-stranovú správu preskúmala a v októbri potvrdila, že niektoré poznámky pod čiarou a odkazy boli nesprávne.
V novembri 2025 vláda kanadskej provincie Newfoundland a Labrador požiadala Deloitte o kompletné preverenie citácií v novom zdravotníckom pláne, pretože v štyroch prípadoch boli odhalené nesprávne či neexistujúce zdroje.
Austrálsky zákon nariaďuje platformám vrátane sietí Instagram, Snapchat či YouTube, aby zabránili osobám mladším ako 16 rokov zriaďovať si u nich účty.
Prevádzkovatelia platforiem podľa zákona musia podniknúť „primerané kroky“ na dodržiavanie predpisov a vláda odporučila používať viacnásobné kontroly na určenie veku používateľov.
Zákaz sa stretol s kritikou. Štúdie naznačujú, že väčšina osôb mladších ako 16 rokov má k platformám stále prístup, čo viedlo Austráliu k tomu, že v júni zdvojnásobila maximálnu pokutu a varovala pred súdnymi krokmi proti technologickým gigantom pre nedodržiavanie predpisov.
ACCS v správe uviedla, že úlohou pilotného projektu nebolo odporúčať konkrétny typ technológie ani posudzovať, či by sa overovanie veku malo vôbec používať. Vykonala 28 514 testov odhadu veku podľa tváre s 13 dodávateľmi po celej Austrálii a zistila, že väčšina testov trvala menej ako 40 sekúnd.
Podľa správy je zásadným nedorozumením domnienka, že technológia by mohla byť používaná bez nejakej miery chybovosti. „Falošne negatívne výsledky budú potom nevyhnutné a na ich nápravu budú potrebné alternatívne metódy,“ stojí v správe.
Podľa správy sa v období dvoch až troch rokov od zavedenia technológie dá počítať s tým, že sa zvýši počet chýb pri správnom odhade veku osoby, napríklad ak má používateľ 17 rokov a systém odhadne, že má menej ako 16, prípadne ak 14-ročného používateľa systém vyhodnotí ako staršieho ako 16 rokov.
