SpolečnostProgress představila výsledky svého globálního průzkumu „Data Bias: The Hidden Risk of AI.“Průzkum pro společnost Progress provedla nezávislá výzkumná společnost Insight Avenue mezi více než 640 profesionály z oblasti obchodu a IT na výkonné a vyšší úrovni, kteří využívají data k rozhodování a používají nebo plánují používat umělou inteligenci (AI) a strojové učení (ML) na podporu svého rozhodování. Kompletní průzkum je k dispozici zde.
Využíváte už ve firmě autonomní agenty postavené na bázi umělé inteligence?
Je známo, že předsudky jsou často dané kulturními a osobními zkušenostmi. Je proto pochopitelné, že při sběru dat a jejich použití k trénování modelů strojového učení se dědí i předsudky těch, kteří informace vytvářejí. To bývá důvodem, proč často vedou k neočekávaným a potenciálně škodlivým výsledkům. Navzdory potenciálním právním a finančním problémům spojeným se zkreslením dat však neexistují jasné zásady týkající se školení, procesů a technologií, které jsou potřebné k úspěšnému řešení této problematiky.
Průzkum ukázal, že 78 % pracovníků s rozhodovacími pravomocemi v oblasti obchodu a IT se domnívá, že s rostoucím využíváním AI/ML bude problém zkreslení dat narůstat. Ale jen 13 % z nich se tímto problémem v současné době zabývá a má zavedený proces jeho vyhodnocování. Největší překážky spatřují v nedostatečném povědomí o možných chybách, v pochopení toho, jak identifikovat zkreslení, a také v nedostatku dostupných odborných zdrojů, například v přístupu k datovým specialistům.
Z průzkumu také vyplývá, že:
- 66 % firem očekává, že se v následujících letech bude při rozhodování více spoléhat na AI/ML.
- 65 % respondentů se domnívá, že se jejich firma v současnosti potýká s problematikou zkreslení dat.
- 77 % uvádí, že by měli pro řešení problematiky zkreslení dat dělat více.
- 51 % považuje za jednu z překážek při odstraňování této problematiky nedostatečné povědomí a její bagatelizaci.
„Opakované problémy se zkreslením dat mohou mít negativní dopad na činnost firmy i procesy rozhodování. Ať už mluvíme o ztrátě důvěry zákazníků, finanční dopady až po potenciální právní a etické hledisko,“ vysvětluje Jiří Mazal, Sales Director CZ/SK ve společnosti Progress. „S vědomím toho, jaký potenciál i rizika představuje oblast AI/ML, se neustále snažíme o to, aby zákazníci v Česku měli vždy v maximální možné míře k dispozici relevantní informace, které jim umožní přijímat ta nejlepší rozhodnutí a posouvat tak své podnikání kupředu.“
Chcete dostávat do mailu týdenní přehled článků z Computerworldu? Objednejte si náš mailový servis a žádná důležitá informace vám neuteče. Objednat si lze také newsletter To hlavní, páteční souhrn nejdůležitějších článků ze všech našich serverů. Newslettery si můžete objednat na této stránce.
PŘEDPLATNÉ
ČLÁNKY DO MAILU