Spoločnosť OpenAI, ktorá stojí za chatbotom ChatGPT, investuje do start-upu zameraného na prevenciu zneužitia umelej inteligencie pri vývoji biologických zbraní. Investícia je súčasťou širšej snahy OpenAI investovať do začínajúcich firiem, ktoré sa snažia obmedziť riziká spojené s AI, napísala agentúra Reuters.
Start-up s názvom Red Queen Bio chce vyvíjať technológie, ktoré zabránia ľuďom alebo skupinám zneužiť AI na tvorbu nebezpečných patogénov či iných biologických hrozieb.
Hlavný investor
OpenAI je hlavným investorom v úvodnom kole financovania v hodnote 15 miliónov dolárov. Cieľom Red Queen Bio je podľa spoluzakladateľa firmy Hanna Rajaniemiho zabezpečiť, aby sa obranné schopnosti odvetvia AI vyvíjali aspoň rovnako rýchlo ako pokusy o jej zneužitie proti ľuďom.
Minulý mesiac OpenAI podporila start-up Valthos, ktorý vyvíja softvér na posilnenie biologickej bezpečnosti. Podľa strategického riaditeľa OpenAI Jasona Kwona je firma otvorená investíciám aj do ďalších projektov, ktoré sa zameriavajú na podobné riziká spojené so zneužitím AI.
Výskumníci a zástancovia bezpečnosti tvrdia, že technológia AI by mohla čoskoro urýchliť vývoj liekov alebo návrh nových vakcín. Tie isté schopnosti by však mohli uľahčiť zločincom či iným škodlivým subjektom vývoj nových a účinných biologických zbraní.
Vývoj liekov
Firma Red Queen Bio vznikla oddelením od spoločnosti Helix Nano, ktorá sa zaoberá klinickým vývojom mRNA terapeutík a využívaním AI vo väčšej miere pri vývoji liekov. Helix Nano tiež spolupracovala s OpenAI na vytvorení testov pre stanovenie biologických rizík AI, uviedol Kwon.
Ďalšími investormi Red Queen Bio sú súkromné investičné spoločnosti Cerberus Ventures, Fifty Years a Halcyon Futures.
Generálny riaditeľ OpenAI Sam Altman a členka správnej rady Nicole Seligmanová už skôr investovali do tart-upu Helix Nano a pri transakcii získajú podiely vo firme Red Queen Bio. Podľa OpenAI bol tiež Jason Kwon nepriamo investorom prostredníctvom Y Combinator, start-upového inkubátora v Silicon Valley. Jeho podiel má hodnotu menej ako 2500 dolárov.
Hovorca OpenAI uviedol, že spomínaní manažéri sa nepodieľali na schvaľovaní investície do Red Queen Bio. Investíciu preskúmal a schválil riaditeľ OpenAI, ktorý má na starosti dodržiavanie predpisov, spolu s členmi správnej rady, ktorí neboli v konflikte záujmov.