Ilustračná fotografia. FOTO: Reuters
StoryEditor

Musk s expertami vyzvali na pozastavenie vývoja výkonnej umelej inteligencie, majú obavy o bezpečnosť

29.03.2023, 23:37
Autor:
TASRTASR

Výkonné systémy umelej inteligencie by mali byť vyvíjané iba vtedy, ak sa uistíme, že ich účinky budú pozitívne a ich riziká budú zvládnuteľné, tvrdia experti.

Miliardár Elon Musk a skupina expertov v stredu v otvorenom liste vyzvali na pozastavenie vývoja výkonných systémov umelej inteligencie, aby mohla byť preverená ich bezpečnosť.

Predmetnú výzvu podpísalo viac ako tisíc odborníkov na umelú inteligenciu vrátane Muska a spoluzakladateľa spoločnosti Apple Stevea Wozniaka. Ich žiadosť podnietilo vydanie novej verzie chatbotu ChatGPT zvanej GPT-4 z dielne americkej organizácie OpenAI.

Mimoriadny výkon

Vývojári tohto chatbotu tvrdia, že najnovšia verzia je oveľa výkonnejšia ako predchádzajúca. Softvér ChatGPT verejnosti voľne sprístupnili vlani v novembri. Používateľov mimoriadne zaujal schopnosťou jasne odpovedať na zložité otázky, písať básne či prejsť vedomostným testom.

image

Zastavte vývoj umelej inteligencie na pol roka, žiada Musk a tisíc expertov. Varujú pred nebezpečenstvom

"Systémy umelej inteligencie schopné konkurovať ľudskej inteligencii môžu predstavovať vážne riziká pre spoločnosť a ľudstvo," píše sa v otvorenom liste zvanom "Pozastavte gigantické experimenty s umelou inteligenciou".

"Výkonné systémy umelej inteligencie by mali byť vyvíjané iba vtedy, ak sa uistíme, že ich účinky budú pozitívne a ich riziká budú zvládnuteľné," dodali experti.

Musk bol jedným z prvých investorov v organizácii OpenAI a roky pôsobil aj vo výkonnej rade tejto spoločnosti, pripomína AFP. Jeho automobilka vyvíja systémy umelej inteligencie, ktoré majú pomôcť pri autonómnom riadení vozidiel.

"Dôveryhodné a lojálne"

List iniciovala organizácia Future of Life Institute, ktorú Musk financuje, a podpísal ho aj Emad Mostaque, šéf spoločnosti Stability AI – priameho konkurenta OpenAI.

V liste citujú aj výrok zakladateľa OpenAI Sama Altmana, že "v určitom okamihu môže byť pred začatím vývoja budúcich systémov dôležité získať ich nezávislé preskúmanie".

image

Musk mal ohodnotiť Twitter na 20 miliárd dolárov. Je to o polovicu menej, než za koľko ho kúpil

"Súhlasíme. Tento okamih je teraz," napísali autori listu. Z tohto dôvodu zároveň vyzvali všetkých vývojárov umelej inteligencie, aby aspoň na šesť mesiacov pozastavili vývoj systémov výkonnejších ako GPT-4.

Šesť mesiacov má byť podľa autorov listu využitých na vývoj bezpečnostných protokolov, riadenia umelej inteligencie a zameranie sa na výskum, aby boli dané systémy presnejšie, bezpečnejšie, "dôveryhodné a lojálne".

List možné hrozby najnovšej verzie chatbotu od firmy OpeanAI GPT-4 nešpecifikuje. Odborníci však dlhodobo tvrdia, že chatboty sú skvelými "klamármi" a majú potenciál stať sa obrovskými šíriteľmi dezinformácií.

01 - Modified: 2023-03-29 09:48:57 - Feat.: 1 - Title: Zastavte vývoj umelej inteligencie na pol roka, žiada Musk a tisíc expertov. Varujú pred nebezpečenstvom 02 - Modified: 2023-03-28 10:25:07 - Feat.: 1 - Title: Elon Musk oznámil ďalšiu zmenu pri platenej funkcii Twitteru, obmedzí dosah bezplatných užívateľov 03 - Modified: 2023-03-27 09:51:07 - Feat.: 1 - Title: Časti zdrojového kódu Twitteru unikli na internet, firma sa obrátila na súd
01 - Modified: 2024-10-15 11:24:40 - Feat.: - Title: Režisér filmu Ja, robot obvinil Elona Muska s plagiátorstva: Hej Elon, môžeš mi vrátiť moje dizajny? 02 - Modified: 2024-10-14 08:00:00 - Feat.: - Title: Apple Intelligence pre iPhony príde za konkurenciou s meškaním. Bude však zadarmo 03 - Modified: 2024-10-13 07:42:05 - Feat.: - Title: Tesla predstavila svoju revolučnú víziu budúcnosti dopravy 04 - Modified: 2024-10-12 22:00:00 - Feat.: - Title: Spraví z vás umelá inteligencia umelca? Porovnali sme tvorbu obrázkov cez Galaxy AI, Google Gemini a Copilota 05 - Modified: 2024-10-12 19:50:02 - Feat.: - Title: Vesmírna loď Elona Muska má povolenie na ďalší test, odštartovať môže v nedeľu
menuLevel = 1, menuRoute = svet, menuAlias = svet, menuRouteLevel0 = svet, homepage = false
15. október 2024 19:51