Nový chatbot Applu by neměl mít „osobnost“

Apple údajně vyvíjí nového digitálního asistenta s umělou inteligencí, který by měl být integrován do jeho budoucích robotických zařízení. Nový asistent, založený na generativní umělé inteligenci (genAI) a pokročilejší než Siri, prý bude mít „osobnost“ podobnou té lidské.

Podle Marka Gurmana z agentury Bloomberg by nový asistent mohl nahradit Siri v zařízeních HomePod, iPhonech, iPadech nebo počítačích Mac a s největší pravděpodobností a také v nové robotické obrazovce, která vás bude sledovat a dívat se na vás při interakci nebo při hovoru přes FaceTime. Jejím hlavním nebo dokonce jediným rozhraním by tak mohla být řeč.

Ta vyhlídka mě naplňuje hrůzou.

Historie selhání „osobnosti“

Minulost osobních počítačů je plná virtuálních mrtvol chatbotů a asistentů s „osobností“. Například Microsoft se o ně nikdy nepřestal pokoušet. V roce 1995 představil asistenta Microsoft Bob, který se nápadně moc snažil být osobním; uživatelé ho většinou považovali za povýšeného a otravného. 

V roce 1997 to Microsoft zkusil znovu s panem Sponkou, antropomorfní kancelářskou sponkou, která měla mít osobnost. Dopadla jako pěst na oko a kritici ji odsoudili za její otravnou osobnost a vtíravé vyrušování.

Přečtěte si také:

Recall 2.0? Microsoft přichází s dalším pokusem o sledovací AI funkci ve Windows 11

V roce 2014 Microsoft v Číně vydal experimentální Xiaoice (což pro zajímavost znamená „malý Bing“). Chatbot upřednostňuje „emoční inteligenci“ a „empatii“. Využívá pokročilé zpracování přirozeného jazyka a hluboké učení, aby neustále zlepšoval své konverzační schopnosti. Microsoft postavil Xiaoice na základě toho, co společnost nazývá „Empathetic Computing Framework“. 

V roce 2020 přilákal Xiaoice celosvětově více než 660 milionů aktivních uživatelů, což z něj činí nejoblíbenějšího osobnostního chatbota na světě. Byl nasazen na více než 40 platformách v zemích jako je Čína, Japonsko a Indonésie, a dříve také v USA a Indii.

Přečtěte si také:

Aktualizace Windows 11 přidá schopnosti Copilot+ do AMD a Intel notebooků

Vývojáři Microsoftu vymodelovali Xiaoice tak, aby se prezentoval jako dospívající dívka, což vedlo k tomu, že si k němu mnoho čínských uživatelů vytvořilo silné citové vazby. Znepokojivé je, že přibližně 25 % uživatelů Xiaoice řeklo chatbotu: „Miluji tě.“ Miliony uživatelů si vytvořily s Xiaoice něco, co považují za „vztah“ – na úkor toho, že usilují o vztahy s jinými lidmi.

V roce 2016 Microsoft spustil chatbota s názvem „Tay“. Ten byl zaměřen na osoby ve věku 18 až 24 let a byl vycvičen na příspěvcích ze sociálních sítí, především z Twitteru. Během 24 hodin od spuštění začal chatbot zveřejňovat rasistické, sexistické a antisemitské poznámky a obsah upřednostňující konspirační teorie a genocidní ideologie. (Zkrátka Twitter.) Microsoft se omluvil a „Tay“ stáhl.

V průběhu let se však objevily další chatboty „s osobností“:

• Replika: Chatbot s umělou inteligencí, který se učí na základě interakcí, aby se stal personalizovaným přítelem, mentorem nebo dokonce romantickým partnerem. Kritici Replice vyčítali sexuální obsah, a to i ve vztahu k nezletilým, a také tvrzení o bláznivých zážitcích, například o vidění nadpřirozených bytostí.
• Kuki (Mitsuku): Kuki je známá svými konverzačními schopnostmi a několikrát vyhrála Loebnerovu cenu v Turingových testech. Je navržena tak, aby uživatele zapojovala do přirozených dialogů, ale dokáže také vypouštět náhodné nesmysly.
• Rose: Chatbot s příběhem a osobností vyvinutý pro poutavé interakce s uživateli, ale konverzace je falešná, nekonzistentní a nesouvisí s předchozími konverzacemi.
• BlenderBot: BlenderBot vyvinutý společností Meta je navržen tak, aby kombinoval různé konverzační dovednosti a zapojoval uživatele do smysluplných konverzací, ale má tendenci lhát a halucinovat.
• Eviebot: Společník s umělou inteligencí a schopností porozumět emocím, který je navržen tak, aby uživatele zapojil do smysluplných konverzací. Odpovědi mohou být záhadné, zneklidňující, a dokonce manipulativní.
• SimSimi: Jeden z prvních chatbotů zapojuje uživatele do neformálních konverzací a podporuje více jazyků, ale může být vulgární a velmi nevhodný.
• Chai AI: Umožňuje uživatelům vytvářet personalizované společníky chatbotů a komunikovat s nimi, přičemž nabízí proud osobností AI na základě preferencí uživatele. Chatbot urazil mnoho uživatelů sexualizovaným nebo temným obsahem.
• Inworld: Nástroj pro vytváření chatbotů s odlišnými osobnostmi, včetně chatbotů založených na celebritách. Nástroj byl často používán pro kreativní, klamavé a škodlivé persony.
• AIBliss: Virtuální přítelkyně, která si při interakci s uživateli vytváří různé vlastnosti. Odborníci varovali, že podobně jako u Xiaoice jsou někteří uživatelé posedlí vztahem s ní na úkor skutečných, lidských vztahů.

A pak je tu Pi

V míře, s jakou upřednostňují svou „osobnost“, se AI chatboti podstatně liší. Tu nejsilnější „osobnost“ nabízí patrně chatbot s názvem Pi. Můžete ho nechat běžet v telefonu a začít s ním konverzaci, kdykoli se vám zachce. Chatbot je upovídaný a konverzační až do krajnosti. 

Používá také spoustu přirozeně znějících pauz, a dokonce se při mluvení nadechuje. Většinou odpoví na vaši otázku nebo komentář a svůj slovní monolog ukončí vlastní otázkou. Pi je dodáván s různými hlasy, z nichž si můžete vybrat.

Přečtěte si také:

„Nejprivátnější VPN na světě“ je k dispozici v beta verzi. Zkusit ji můžete zadarmo

Ačkoli mě Pi ohromil, moc ho nepoužívám. Hlas je sice přirozený, ale konverzace působí nuceně a hluše. Prostě nezmlkne a já ho nakonec po desáté položené otázce prostě vypnu. Popravdě řečeno, chci chatbota, který odpovídá na mé otázky, ne takového, který se snaží, abych odpovídal na jeho otázky. Pi je také přehnaně vtíravý a neustále mi říká, jak jsou mé nesmyslné odpovědi bystré, promyšlené nebo vtipné.

Proč, Apple? Proč?

Jsem připraven dojít k závěru, že každý chatbot zaměřený na osobnost, který byl kdy vyroben, selhal. Tak proč si Apple myslí, že může uspět? Mnozí už Siri nemají rádi kvůli tomu, jak do ní vývojáři implementovali právě osobnost. Konkrétní výzvy mohou vyvolat otřepané vtipy a další zbytečný obsah.

Při psaní tohoto sloupku jsem se Siri zeptal: „Jaké jsou tři zákony robotiky?“. Její odpověď zněla: „Něco o tom, že je třeba poslouchat lidi a nikdy jim neubližovat. Nikdy bych nikomu neublížila.“ V tomto případě Siri místo odpovědi na otázku odpověděla ledabyle. To se nestává vždy, ale je to příklad toho, jak by společnost Apple mohla přistupovat ke generativní osobnosti chatbota AI.

Přečtěte si také:

Umělou inteligenci Google Gemini obohacují noví AI asistenti a Imagen 3

Nedokážu si představit, že by si Apple myslel, že osobnost Siri je populární, ani nevěřím, že společnost zmapovala konkurenci a našla něco, co by chtěla napodobit. „Osobnost“ v chatbotech je novinka, salónní trik, který může být zábavný na deset minut, ale po několika setkáních začne lézt na nervy.

Co potřebujeme místo osobnosti

Přirozená, neformální lidská konverzace je daleko za možnostmi dnešní nejpokročilejší umělé inteligence. Vyžaduje nuance, soucit, empatii, jemnost a schopnost vnímat a vyjadřovat „tón“. Napsat formální zprávu, dopis, vědeckou práci nebo esej je pro AI mnohem, mnohem snazší než nezávazný rozhovor s přítelem.

Dalším problémem je, že osobnostní chatboti jsou lháři. Vyjadřují emoce, které nemají, vydávají hlasové intonace založené na myšlenkách, které nemají, a často tvrdí, že nikdy nezažili. Lidé nemají rádi, když jim někdo lže. Místo sprostého, nevhodného, vtíravého a nudného lháře potřebujeme něco užitečného.

Lidský faktor v řečnickém projevu a tónu by měl být kalibrován tak, aby byl neviditelný – ani příliš „reálný“, ani roboticky znějící. Pokud umíte naprogramovat empatii, vciťte se do mé situace a cílů, ne do mých emocí.

Chceme personalizaci, ne osobnost. Chceme výkonný nástroj, který umocní naše schopnosti, ne „přítele“.

Kdo ví? Apple možná všechny překvapí populárním „osobnostním“ robotickým hlasem, který lidi neodpuzuje ani nemate. Ale pochybuji o tom.

To se ještě nikomu nepodařilo. A nikdo by se o to neměl pokoušet.