Výskumníci na Oxfordskej univerzite objavili tento kompromis počas testov chatbotov, ktorí boli upravené tak, aby zneli priateľskejšie.
Vrúcnejšie chatboty boli o 30 percent menej presné vo svojich odpovediach a o 40 percent častejšie podporovali falošné presvedčenia používateľov, píše The Guardian.
Varovné signály
Zistenia sú znepokojujúce, pretože technologické firmy ako OpenAI a Anthropic navrhujú chatboty tak, aby boli priateľskejšie a oslovovali viac používateľov.
Tento trend viedol k tomu, že chatboty spracovávajú citlivejšie informácie vo svojich úlohách digitálnych spoločníkov, terapeutov a poradcov.
„Snaha o to, aby sa tieto jazykové modely správali priateľskejšie, vedie k zníženiu ich schopnosti hovoriť tvrdé pravdy a najmä brániť sa, keď majú používatelia nesprávne predstavy o tom, aká by pravda mohla byť,“ povedal Lujain Ibrahim z Oxfordského internetového inštitútu, prvý autor štúdie.
Prácu podnietilo pozorovanie, že ľudia majú často problém byť vrúcni a empatickí, ako aj úplne úprimní. „Chceli sme zistiť, či by sa rovnaký druh kompromisu stal aj s chatbotmi,“ povedal Luc Rocher, hlavný autor štúdie.
Ľudia, ktorí používajú chatboty s umelou inteligenciou, už poznajú varovné signály, že mo...
Tento článok je určený pre predplatiteľov.
Zostáva vám 85% na dočítanie.
Zostáva vám 85% na dočítanie.