Předsudky mohou znehodnotit využívání AI pro rozhodování

To bývá důvodem, proč často vedou k neočekávaným a potenciálně škodlivým výsledkům. Navzdory potenciálním právním a finančním problémům spojeným se zkreslením dat však neexistují jasné zásady týkající se školení, procesů a technologií, které jsou potřebné k úspěšnému řešení této problematiky.

Průzkum, který uskutečnily firmy Insight Avenue a Progress,  ukázal, že 78 % pracovníků s rozhodovacími pravomocemi v oblasti obchodu a IT se domnívá, že s rostoucím využíváním AI/ML bude problém zkreslení dat narůstat.

Opakované problémy se zkreslením dat tak mohou mít negativní dopad na činnost firmy i procesy rozhodování, ať už mluvíme o ztrátě důvěry zákazníků, finanční dopady až po potenciální právní a etické hledisko.

Ale jen 13 % dotázaných firem se tímto problémem v současné době zabývá a má zavedený proces jeho vyhodnocování. Největší překážky spatřují v nedostatečném povědomí o možných chybách, v pochopení toho, jak identifikovat zkreslení, a také v nedostatku dostupných odborných zdrojů, například v přístupu k datovým specialistům.

Dvě třetiny podniků přitom očekávají, že se v následujících letech bude při rozhodování více spoléhat na AI/ML. Podobně velký podíl respondentů se navíc domnívá, že se jejich firma v současnosti potýká s problematikou zkreslení dat.

Tři čtvrtiny firem je přesvědčeno, že by měli pro řešení problematiky zkreslení dat dělat více, podle poloviny respondentů vidí jako překážku při odstraňování této problematiky nedostatečné povědomí nebo dokonce její bagatelizaci.