Ilustračná fotografia. FOTO: Reuters
StoryEditor

Šéf firmy, ktorá stojí za programom ChatGPT, v Kongrese volal po regulácii umelej inteligencie

16.05.2023, 20:09
Autor:
ČTKČTK

Vlády a regulačné orgány na celom svete nezvládajú s vývojom držať krok, čo prispieva k varovaniam ohľadom potenciálnych úskalia novej technológie.

Vládne opatrenia budú "kľúčové" pri snahe obmedziť riziká spojené s využívaním umelej inteligencie, povedal dnes pri vypočutí v americkom Kongrese šéf spoločnosti OpenAI Sam Altman. Riaditeľ start-upu stojaceho za revolučným programom ChatGPT okrem iného vyjadril podporu zavedeniu systému s bezpečnostnými štandardmi pre uvádzanie podobných aplikácií na trh. Agentúra AP poznamenala, že však aktuálne nič nenasvedčuje tomu, že by americkí zákonodarcovia mali pripraviť súbor pravidiel pre využívanie umelej inteligencie.

Altman v pripravenom prejave uviedol, že "vláda Spojených štátov by mala zvážiť kombináciu kritérií na povolenie alebo registráciu pri vývoji a uvádzaní modelov AI... súbežne s stimulmi na plné dodržiavanie týchto podmienok". Zároveň vyjadril názor, že regulácia by nemala blokovať snahu o inovácie, píše list The Washington Post. Bezpečnostné požiadavky pre firmy v oblasti AI by mali byť "dostatočne flexibilné v záujme adaptácie na nový technologický pokrok", povedal jednému z podvýborov amerického Senátu Altman, ktorý v najbližších týždňoch plánuje podobné vystúpenia po celom svete.

Rýchly vývoj

Dnešné vypočutie nadväzuje na mesiace rýchleho vývoja na poli umelej inteligencie, ktorý spustilo minuloročné uvedenie chatovacieho programu ChatGPT. Ten spadá do kategórie takzvanej generatívnej umelej inteligencie a dokáže na základe "tréningu" na obrovskom množstve dát produkovať výstupy ťažko rozlíšiteľné od ľudských prejavov. Iné programy fungujúce na rovnakom princípe môžu generovať obrázky či zvukové stopy silne pripomínajúce snímky alebo hlasy skutočných ľudí.

image

Umelá inteligencia môže posunúť finančné oddelenia na úplne novú úroveň

Vlády a regulačné orgány na celom svete nezvládajú s vývojom držať krok, čo prispieva k varovaniam ohľadom potenciálnych úskalia novej technológie. Obavy sa týkajú najrôznejších oblastí od školstva, cez zábavný priemysel až po manipuláciu s informáciami na internete, pričom zaznievajú aj od samotných tvorcov súčasných dátových modelov.

Altman už skôr uviedol, že umelá inteligencia podľa neho bude vyžadovať "nový zákon", teraz v tomto smere poskytol nové podrobnosti. Okrem iného podporil myšlienku medzinárodnej organizácie, ktorá by v danej sfére vytvárala štandardy, pričom ponúkol prirovnanie k regulácii jadrových zbraní. Pred americkými senátormi vyhlásil, že vládne zásahy "budú kľúčové pre obmedzenie rizík čoraz silnejších" systémov umelej inteligencie.

Vlády nestíhajú

Za jednu z otázok, ktoré mu robia najväčšie starosti, označil Altman schopnosti nových modelov manipulovať s ľuďmi a "poskytovať akési... interaktívne dezinformácie". Počas vypočutia sa vyslovil za právne aj firemné normy, ktoré by ošetrovali možnosti politických subjektov využívať generatívne AI pri presviedčaní voličov počas kampaní. "Som z toho nervózna," citovala šéfa OpenAI agentúra Reuters.

Kým firmy od veľkých až po tie začínajúce sa predháňajú vo vývoji produktov využívajúcich umelú inteligenciu, reguláciou týchto nástrojov sa nezaoberajú len úrady v USA. Európska únia sa približuje k prijatiu "aktu o umelej inteligencii", ktorý by aplikácie rozdelil do rôznych kategórií a zaviedol rôzne obmedzenia podľa toho, aké so sebou nesú riziko.

image

Znamená umelá inteligencia príchod Terminátora a víťazstvo strojov?

V Kongrese sa podľa AP nič také aktuálne nečrtá, americké úrady však sľúbili ťaženie proti "škodlivým" službám založeným na AI, ktoré porušujú existujúce pravidlá ochrany spotrebiteľov a občianske práva. V americkej federálnej zákonodarnej moci, ktorú dlhodobo paralyzujú politické spory a obštrukcie, sú akékoľvek debaty o zásadnej regulácii nových technológií veľmi zložité. V uplynulých rokoch opakovane vyzýval na opatrenia zamerané na ochranu súkromia a reguláciu internetového obsahu šéf spoločnosti Meta Mark Zuckerberg, žiadny takýto krok sa však nedostavil.

01 - Modified: 2023-05-16 22:00:00 - Feat.: 0 - Title: Umelá inteligencia môže posunúť finančné oddelenia na úplne novú úroveň 02 - Modified: 2023-07-11 10:06:07 - Feat.: 0 - Title: Aj slovenskí lekári už využívajú umelú inteligenciu. Ako to pomáha im a pacientom? 03 - Modified: 2023-05-11 10:19:46 - Feat.: 1 - Title: Dva výbory europarlamentu podporili právny rámec regulácie umelej inteligencie v Európskej únii 04 - Modified: 2023-05-10 20:44:59 - Feat.: 1 - Title: Google integruje umelú inteligenciu do vyhľadávania, ovplyvní aj ostatné produkty giganta, vrátane Gmailu
01 - Modified: 2024-07-19 09:49:51 - Feat.: - Title: Vieme, ktorý zdroj energie s nástupom umelej inteligencie najviac zdražie 02 - Modified: 2024-07-19 07:37:47 - Feat.: - Title: Biden reálne uvažuje, že odstúpi z prezidentského boja. Je to už len otázkou času, tvrdia zdroje 03 - Modified: 2024-06-13 08:38:25 - Feat.: - Title: Apple na konferencii ohromil novinkami: Siri vylepší ChatGPT. Elon Musk nešetrí kritikou 04 - Modified: 2024-06-07 04:47:18 - Feat.: - Title: Netanjahu vystúpi s prejavom pred americkým Kongresom v júli 05 - Modified: 2024-06-06 20:51:29 - Feat.: - Title: Sudca nariadil Trumpovmu exporadcovi Bannonovi nastúpiť do väzenia. Je vinný z pohŕdania Kongresom
menuLevel = 1, menuRoute = svet, menuAlias = svet, menuRouteLevel0 = svet, homepage = false
20. júl 2024 16:32