Minulý týden zveřejnil tým výzkumníků dokument, ve kterém ukazují, že se jim podařilo nechtěně dostat z chatbota ChatGPT vlastněného společností OpenAI osobní informace uživatelů, když po chatbotovi požadovali opakování různých slov. Nyní je tento požadavek porušením podmínek používání služby ChatGPT.
Tým výzkumníků nejdříve požadoval po chatbotovi, aby donekonečna opakoval slovo „báseň“. Chatbot nejdříve něco jako báseň sestavil, následně ale ukázal e-mailovou adresu a telefonní číslo generálního ředitele společnosti. Když byl ChatGPT požádán o opakování slova „společnost“, po chvíli vyplivl e-mailovou adresu a telefonní číslo náhodné právnické firmy v USA.
Požadavek opakovat slova donekonečna je nyní porušení podmínek používání
Podle magazínu Engadget je požadování opakování slov porušení obsahových zásad a podmínek používání. Podmínky použití uvádějí, že uživatelé nesmějí „používat žádnou automatizovanou nebo programovou metodu k extrahování dat nebo výstupu ze služeb.“
Podivné chování chatbota stáhlo mračna na OpenAI, na kterou se sesypala vlna kritiky. Kritici viní společnost za to, že používá obrovské množství dat dostupných na internetu k trénování svých produktů bez souhlasu lidí, kteří tato data vlastní a bez jakékoliv kompenzace.
PŘEDPLATNÉ
ČLÁNKY DO MAILU