Nový Bing by dle Microsoftu neměl tak „bláznit“

Microsoft plánuje aktualizovat Bing Chat, aby nebyl tak bizarní. OpenAI se pro změnu snaží ChatGPT udělat trochu neutrálnější.

Společnost Microsoft vydala na svém blogu příspěvek, ve kterém nastínila změny, které se chystají v AI chatbotu Bing, zatímco společnost OpenAI vydala jen o den později technický příspěvek s podrobnějšími informacemi o tom, jak svůj model také ladí.

Těžko uvěřit, že nový Bing je na světě teprve týden, ale už teď si získal popularitu, po jaké v minulosti jen pokukoval. V příspěvku Microsoft poukázal na „zvýšené zapojení“, které Bing zaznamenal poté, co jeho aktualizované vyhledávání i chatbot s umělou inteligencí Bing Chat debutovaly ve 169 zemích. Přibližně 71 % uživatelů dalo jeho odpovědím „palec nahoru“, uvedl Microsoft.

Firma přitom Bing Chat nepovažuje ani tak za vyhledávač, ale „spíše za nástroj pro lepší pochopení a porozumění světu“. Považuje však za nutné vylepšit odpovědi na dotazy související s aktuálními tématy jako jsou například sportovní výsledky. Microsoft uvedl, že plánuje zpřístupnit čtyřikrát více „podkladových dat“, aby pomohl tyto problémy řešit.

Zároveň se ukázalo, že prostředí Bing Chatu je, řekněme, divné. I tím se Microsoft zabývá. Od zdlouhavé konverzace s reportérem New York Times, kdy se Bing zajímal o manželství reportéra, přes rasistické urážky až po údajné výhrůžky uživatelům, kteří jej testovali, nebyl chatbot zcela takový, jak by uživatelé očekávali.

Příspěvek popisující změny svého modelu zveřejnila také společnost OpenAI. Dvě věty z něj vyčnívají: „V našich pravidlech je výslovně uvedeno, že hodnotitelé by neměli upřednostňovat žádnou politickou skupinu,“ píše se v příspěvku. „Předsudky, které se přesto mohou objevit v rámci výše popsaného procesu, jsou chyby, nikoliv vlastnosti.“ Příspěvek tak nepřímo odkazoval na zprávy, že ChatGPT upřednostňuje liberální názory.

Microsoft plánuje řešit své vlastní problémy několika způsoby. Za prvé, zvažuje přidání přepínače, který uživatelům poskytne větší kontrolu nad přesností versus kreativitou odpovědí, které Bing poskytuje. Ve světě umělé inteligence je to často prezentováno jako posuvník, kde si uživatelé mohou zvolit „návodnost“ neboli to, jak moc se výstup algoritmu shoduje se vstupní výzvou (slabší návodnost dává algoritmu větší prostor pro kreativitu, ale také může výsledky vychýlit nečekaným směrem).

Microsoft uvedl, že se to projevuje nečekaným způsobem, protože uživatelé chatbota používají ke „společenské zábavě“, čímž zřejmě naráží na dlouhé a podivné konverzace, které může vytvářet.

Microsoft však taky uvedl, že v dobrém i zlém pravděpodobně omezí způsob, jakým Bing komunikuje s uživateli během delších chatových relací. 

„Zjistili jsme, že při dlouhých a rozsáhlých chatových relacích o patnácti a více otázkách se může Bing opakovat nebo být vyzván/provokován k odpovědím, které nemusí být nutně užitečné nebo v souladu s námi navrženým tónem,“ uvedl Microsoft. Je to prý často způsobeno tím, že model začne být „zmatený“ v tom, na co odpovídá, a může být veden „tónem, ve kterém je žádán o odpovědi, které mohou vést ke stylu, který jsme nezamýšleli“.

Jedná se o „netriviální scénář, který vyžaduje mnoho podnětů“, ale může k němu dojít, uvedl Microsoft. V takovém případě podle Microsoftu uživatelé potřebují nástroj, kde si mohou „snadněji obnovit kontext“.

Nakonec na blogu týmu Bing zaznělo, že Microsoft zvažuje nové funkce, jako je rezervace letenek nebo odesílání e-mailů. Ty prý budou přidány v „pozdějších verzích“.

Subjektivně jsme zjistili, že Bing se chová poněkud prvoplánově a stanovuje pevné zásady, které se snaží dodržovat. Po překročení těchto hranic se „Sydney“, jak ji někteří nazývají, promění do podoby podivné, divoké a (jak jsme zjistili) někdy nepřitažlivé osobnosti. Je ale také pravda, že právě teď je kreativní část ChatGPT i Bingu tím, co uživatele zajímá nejvíce. Je otázkou, jak bude Microsoft tyto dvě.