Logo spoločnosti OpenAI. FOTO: Reuters
StoryEditor

Ľudstvo v ohrození? Výskumníci pred odvolaním Altmana varovali pred prelomovým objavom v AI, píše Reuters

23.11.2023, 11:39
Autor:
ČTKČTK

Podľa zdrojov to bol jeden z faktorov, ktoré viedli k odvolaniu šéfa firmy. Ďalším dôvodom podľa nich boli obavy z komerčného využitia vynálezu.

Niekoľko výskumných pracovníkov americkej spoločnosti OpenAI pred odvolaním šéfa podniku Sama Altmana správnu radu v liste varovalo pred prelomovým objavom v oblasti umelej inteligencie, ktorý by podľa nich mohol ohroziť ľudstvo.

S odvolaním sa na dva informované zdroje to dnes uviedla agentúra Reuters. List a objav podľa nich boli kľúčovými momentmi pred tým, ako správna rada Altmana minulý týždeň v piatok prekvapivo odvolala. Autori listu na žiadosť o komentár nereagovali.

Altman po vyhodení prešiel do Microsoftu, ktorý firmu OpenAI podporuje. Keď však väčšina zamestnancov OpenAI pohrozila odchodom, pokiaľ sa Altman do šéfovského kresla nevráti, veci nabrali nový spád.

Za jeho návrat do čela OpenAI lobovali aj významní investori. Altman sa tak v utorok po búrlivom vývoji na čelo firmy vrátil. Spoločnosť OpenAI vyvinula populárny nástroj ChatGPT.

image

Altman sa vracia na pozíciu riaditeľa OpenAI, firma bude mať novú správnu radu

Zdroje uviedli, že list bol jedným z faktorov, ktoré viedli k Altmanovmu odvolaniu. Ďalším dôvodom podľa nich boli obavy z komerčného využitia objavu pred pochopením jeho dôsledkov.

Spoločnosť OpenAI vec nekomentovala. V internom liste zamestnancom potvrdila projekt nazvaný Q* (skratka pre Q Star) aj spomínaný list výskumných pracovníkov správnej rade, uviedol jeden zo zdrojov.

Niektorí zamestnanci OpenAI sa domnievajú, že projekt Q* by mohol byť prelomom v hľadaní takzvanej všeobecnej umelej inteligencie (AGI), povedal jeden z nich. OpenAI definuje AGI ako autonómne systémy, ktoré prekonajú človeka vo väčšine ekonomicky hodnotných úloh.

Nový model bol podľa toho istého zdroja schopný riešiť určité matematické úlohy. Výskumníci považujú matematiku za hranicu vývoja generatívnej umelej inteligencie. V súčasnej dobe je generatívna AI dobrá v písaní a preklade jazyka tým spôsobom, že štatisticky predpovedá ďalšie slovo.

image

Firmám nemožno dôverovať, boja sa odborníci. Európska únia chystá predpisy na reguláciu umelej inteligencie

Odpovede na rovnakú otázku sa môžu pritom značne líšiť. Ovládnutie matematiky, kde existuje iba jedna správna odpoveď, by znamenalo, že by AI mala väčšie schopnosti uvažovania pripomínajúce ľudskú inteligenciu. To by sa mohlo uplatniť napríklad v novom vedeckom výskume, domnievajú sa odborníci.

Na rozdiel od kalkulačky, ktorá dokáže riešiť obmedzený počet operácií, dokáže AGI zovšeobecňovať, učiť sa a chápať. V liste správnej rade výskumníci upozornili na schopnosti a potenciálne nebezpečenstvo AI, uviedli zdroje.

01 - Modified: 2023-11-20 13:47:48 - Feat.: 0 - Title: Otrasy v OpenAI pokračujú. Odvolaný šéf spoločnosti prechádza do Microsoftu 02 - Modified: 2023-11-20 09:14:23 - Feat.: 1 - Title: Odvolaný šéf spoločnosti OpenAI Sam Altman prechádza s časťou tímu do Microsoftu 03 - Modified: 2023-11-06 16:48:19 - Feat.: 1 - Title: Do nemeckej firmy Aleph Alpha zaoberajúcou sa AI investori naliali viac ako 500 miliónov dolárov 04 - Modified: 2023-11-18 21:44:59 - Feat.: 1 - Title: Kríza v OpenAI sa prehlbuje. Po odvolaní šéfa Altmana, odchádza aj predseda správnej rady Brockman 05 - Modified: 2023-09-28 08:59:03 - Feat.: 0 - Title: Sila AI naberá na obrátkach: Novinky predstavila Meta, ChatGPT dal K.O. Googlu 06 - Modified: 2023-09-27 19:08:35 - Feat.: 1 - Title: ChatGPT začína pre užívateľov vyhľadávať aktuálne informácie na internete
01 - Modified: 2024-10-02 18:51:49 - Feat.: - Title: Investori poskytli firme OpenAI 6,6 miliardy dolárov, ocenili ju na 157 miliárd 02 - Modified: 2024-09-29 18:22:14 - Feat.: - Title: OpenAI počíta v tomto roku so stratou päť miliárd dolárov, tržby však firme rekordne rastú 03 - Modified: 2024-09-29 16:32:31 - Feat.: - Title: Apple sa nezúčastní na aktuálnom kole financovania spoločnosti OpenAI 04 - Modified: 2024-09-14 05:30:00 - Feat.: - Title: OpenAI predstavilo nový model umelej inteligencie. Má byť schopný uvažovať, aby vám neklamal 05 - Modified: 2024-06-21 22:13:51 - Feat.: - Title: K rozprávke pre deti pohodlnejšie? Napíše ju umelá inteligencia
menuLevel = 2, menuRoute = finweb/zahranicna-ekonomika, menuAlias = zahranicna-ekonomika, menuRouteLevel0 = finweb, homepage = false
05. október 2024 09:27