Jaká je vaše povaha? Zdá se, že právě to zajímá třeba Airbnb předtím, než vám dovolí pronajímat prostory. Posuzuje to AI dle vašich příspěvku na Facebooku, Instagramu a Twitteru.
Je to vlastně zcela primitivní proces: Systém vypustí na sociální sítě, algoritmus proběhne a následně vyhodnotí výsledky. Pro uživatele neexistuje ani obrana ani možnost obrany – protože o tom vůbec nemusí vědět.
Airbnb tak zřejmě bude v budoucnu přisuzovat jednotlivým členům sítě skóre důvěryhodnosti; týkat se bude navíc, zdá se, nejen sociálních sítí, ale i dat různě sesbíraných z online prostoru nebo třeba trestního rejstříku.
Sledování sice s umělou inteligentní, ale neinteligentně
Technologii vyvinula firma Trooly, které Airbnb odkoupilo před třemi lety. Tato společnost vytvořila na AI založený „nástroj, který by predikoval důvěryhodné vztahy a interakce“.
Software určuje skóre uživatele v závislosti na povahových vlastnostech, zřejmě odkoukaných z příspěvků na sociálních sítích. Údajně ale také software hledá stopy po občanských žalobách; Airbnb by se tak mohla bránit uživatelům, u nichž tuší, že by mohli společnost za něco žalovat (relevantní hlavně pro trh v USA).
Airbnb využití softwaru nepotvrdilo ani nevyvrátilo.
Je nepravděpodobné, že by podobnou umělou inteligenci nasazovala pouze tato jedna firma; je možné, že už dnes jde o relativně běžnou praxi – jen o ní nevíme, protože nemáme jak. Je pravda, že prozatím bude toto sledování behaviorálních zvyků člověka na internetu zřejmě značně omezeno hlavně na oblast Spojených států, nicméně je jen otázka času, než se něco takového stane běžným i v Evropě. Už nyní mohou mít někteří lidé problém, když žádají o práci ve větší firmě a HR oddělení najde nedobré příspěvky, fotografie či videa na internetu obecně nebo na sociálních sítích zájemce.
Problémem je – kromě samotného principu tohoto AI poháněného sledování – to, že takto sesbíraná data mohou být značně nedůvěryhodná. Někteří lidé vedou zdánlivě spořádaný online život, ale mají falešné účty, na kterých si vybíjí své komplexy. Další mohou vypadat jako vlivní a bohatí influenceři, ale jde jen o pečlivě budovanou image, která vůbec neodpovídá realitě.
A konečně, někteří zkrátka jen mají jiné zvyky v online prostoru, než v běžném životě, což je něco zcela normálního.
Šance, že vás AI špehuje a analyzuje je vysoká. Šance, že to dělá správně, už je nižší.
PŘEDPLATNÉ
ČLÁNKY DO MAILU