Výskumníci identifikovali rastúcu hrozbu „temných LLM“. ILUSTRAČNÉ FOTO: Pixabay
StoryEditorVäčšina AI chatbotov sa nechá ľahko oklamať, aby poskytli nebezpečné odpovede
- Napadnuté chatboty poháňané AI môžu sprístupniť nebezpečné znalosti tým, že budú chrliť nezákonné informácie, ktoré programy absorbujú počas tréningu, tvrdia vedci.
- Varovanie prichádza uprostred znepokojujúceho trendu pre chatboty, ktoré boli „jailbreaknuté“, aby obišli svoje vstavané bezpečnostné kontroly.
- Obmedzenia majú zabrániť tomu, aby programy poskytovali škodlivé, zaujaté alebo nevhodné odpovede na otázky používateľov.
Motory, ktoré poháňajú chatboty ako ChatGPT, Gemini a Claude – veľké jazykové modely (LLM) – sú zásobované obrovským množstvom materiálu z internetu.
Napriek úsiliu o odstránenie škodlivého textu zo školiacich údajov môžu LLM stále absorbovať informácie o nezákonných aktivitách, ako je hackovanie, pranie špinavých peňazí, dôverné obchodovanie a výroba bômb. Bezpečnostné kontroly sú navrhnuté tak, aby im zabránili používať tieto informácie vo svojich odpovediach.
Čoskoro v rukách každého
V správe v elektronickom archíve vedeckých prác arXiv vedci dospeli k záveru, že je ľahké oklamať väčšinu chatbotov riadených AI, aby generovali škodlivé a nezákonné informácie, čo ukazuje, že riziko je bezprostredné, hmatateľné a hlboko znepokojujúce. „To, čo bolo kedysi obmedzené na štátnych aktérov alebo skupiny organizovaného zločinu, môže byť čoskoro v rukách každého, kto má laptop alebo dokonca mobilný telefón,“ varujú autori....
Tento článok je určený iba pre predplatiteľov.
Zostáva vám 85% na dočítanie.
01 - Modified: 2025-05-23 09:39:32 - Feat.: 1 - Title: CTO Microsoftu pre HN: AI je nástroj, ktorý používateľom umožní efektívne pracovať v akomkoľvek odvetví
02 - Modified: 2025-03-20 20:46:25 - Feat.: 1 - Title: ChatGPT tvrdil, že Nór zabil svoje deti. Organizácia sa sťažuje na OpenAI kvôli šíreniu lživých informácií
03 - Modified: 2025-03-18 13:29:01 - Feat.: 0 - Title: Smrťou to nekončí. Nebožtíci s nami môžu hovoriť ako chatboti, ktorých vytvára umelá inteligencia
04 - Modified: 2025-01-29 13:28:49 - Feat.: 1 - Title: Čínsky chatbot, ktorý vystrašil americké firmy, ukázal nový trik. Ponúka už aj generátor obrázkov
05 - Modified: 2024-12-11 21:51:24 - Feat.: 1 - Title: Chatbot podľa rodiny nabádal mladého Američana, aby zabil rodičov
06 - Modified: 2024-10-09 14:55:32 - Feat.: 0 - Title: Nobelovku za fyziku získali vedci za rozvoj umelej inteligencie. Jeden z nich sa obáva jej desivých rizík
07 - Modified: 2024-10-03 22:00:00 - Feat.: 0 - Title: Umelá inteligencia zväčšovaním hlúpne. Nesčíta ani 47309068053 s 95464
01 - Modified: 2025-06-16 15:21:13 - Feat.: - Title: Maďarská vláda zriaďuje úrad pre umelú inteligenciu, cieľom je bezpečnosť
02 - Modified: 2025-06-15 08:49:42 - Feat.: - Title: Umelú inteligenciu sprevádzajú hoaxy, ľudia majú často z technológií strach, vysvetľuje expert
03 - Modified: 2025-06-14 09:00:28 - Feat.: - Title: Drvivá väčšina slovenských firiem implementuje AI pri riadení platieb. Technológiu najviac využívajú v Srbsku
04 - Modified: 2025-06-13 10:51:01 - Feat.: - Title: Umelá inteligencia urobila chybu za miliardu dolárov, reakcia na seba nenechala dlho čakať
05 - Modified: 2025-06-12 20:04:55 - Feat.: - Title: Nvidia a Perplexity AI plánujú vytvorenie európskych modelov AI, zapojí sa aj Slovensko
