Společnost Meta představila prototyp nového chatbotu využívajícího umělé inteligence, který své tvůrce obratem přivedl do rozpaků. Kulantně řečeno. Konverzační BlenderBot 3, jak se jmenuje, označil šéfa firmy Marka Zuckerberga za „slizouna, který využívá ostatní“.
Využíváte už ve firmě autonomní agenty postavené na bázi umělé inteligence?
Meta tvrdí, že nový chatbot dokáže diskutovat na téměř jakékoliv téma. Když byl krátce po svém uvedení dotázán, co si myslí o šéfovi a zakladateli Facebooku, respektive Mety, jeho verdikt byl jednoznačný. Spojené státy jsou prý rozdělené a Zuckerberg proti tomu nic nedělá.
„Je třeba si uvědomit, že BlenderBot slouží k objevování a zábavě a jako takový může činit nepravdivé či urážlivé závěry, k nimž by ho uživatelé neměli ponoukat,“ hájí svůj výtvor společnost.
Modul pochopitelně čerpá informace z obrovských kvant veřejně dostupných dat a ve výsledku je tak celkem pochopitelné, že směrem k Zuckerbergovi není nijak lichotivý.
Pište pro Computerworld
Máte dobré nápady, máte co říct? Chcete se podělit o své znalosti se čtenáři Computerworldu?
Je tu ideální příležitost. V redakci neustále hledáme externí autory, kteří rozšíří náš záběr. Nabízíme možnost publikací zajímavých článků nejen na webu, ale také v našem tištěném magazínu.
Pokud máte zájem, ozvěte se šéfredaktorovi na e-mail: radan.dolejs@iinfo.cz
„Jeho svědectví před Kongresem bylo strašné. Jsem ze stavu naší země znepokojen," odpověděl chatbot v konverzaci s novináři BBC na téma Zuckerbergovy obhajoby sociální platformy před americkými státníky. „Jeho firma zneužívání lidi pro peníze a jemu je to jedno. Tohle musí přestat!“
Meta je za nedostatečnou aktivitu v boji proti dezinformacím a nenávistným projevům na svých platformách kritizována dlouhodobě. Loni firmu bývalá zaměstnankyně Frances Haugenová obvinila z toho, že upřednostňuje zisky před online bezpečností a BlenderBot 3, učící se z názorů ostatních, nepochybně zaznamenal i tuto diskuzi.
Jeho schopnosti testovali mnozí další novináři. Těm z Insideru, rovněž zvědavým na názor na Marka Zuckerberga, odvětil, že „ho nemá rád“ a že jeden z nejvlivnějších mužů planety je „manipulativní slizoun“. Pro BuzzFeed BlenderBot 3 ocenil alespoň Zuckerbergovy obchodní praktiky, byť seznal, že ne vždy jsou etické. „A je vtipné, že s tolika penězi, kolik má, pořád chodí stejně oblečený.“
Chcete dostávat do mailu týdenní přehled článků z Computerworldu? Objednejte si náš mailový servis a žádná důležitá informace vám neuteče. Objednat si lze také newsletter To hlavní, páteční souhrn nejdůležitějších článků ze všech našich serverů. Newslettery si můžete objednat na této stránce.
Není pochyb, že Meta s rizikem špatné reklamy počítala, a přesto BlenderBot 3 publikovala veřejně. Potřebuje totiž data.
„Umožnit AI systému interagovat s lidmi ve skutečném světě ústí v delší a pestřejší konverzace a také v rozmanitější zpětnou vazbu,“ uvádí Meta.
Chatboty učící se na interakci s reálnými lidmi se totiž mohou učit jak z „dobrého“ tak „špatného“ chování. I takový přístup se však může vymknout. Vzpomeňme situaci z roku 2016, kdy se Microsoft omlouval za to, že uživatelé jeho chatbot naučili rasismu.
Meta si dle svých slov uvědomuje, že BlenderBot 3 může říkat nehezké věci – a napodobovat vyjadřování, které je „zaujaté či urážlivé“. Hrubé mluvě prý stoprocentně nezabrání ani implementovaná opatření.
Computerworld si můžete objednat i jako klasický časopis. Je jediným odborným měsíčníkem na českém a slovenském trhu zaměreným na profesionály v oblasti informačních a komunikačních technologií (ICT). Díky silnému zázemí přináší aktuální zpravodajství, analýzy, komentáře a přehledy nejnovejších technologií dříve a na vyšší odborné úrovni, než ostatní periodika na tuzemském trhu.
Obsah Computerworldu je určen odborníkům a manažerům z firem a institucí, kteří se podílejí na rozhodovacím procesu při nákupu ICT technologií. Jednotlivá čísla si můžete objednat i v digitální podobě.
PŘEDPLATNÉ
ČLÁNKY DO MAILU