Umělá inteligence může být zaujatá

Organizace, které plánují zavést umělou inteligenci (AI), musí kromě aspektů souvisejících s etikou a ochranou osobních údajů dbát také na standardy, které eliminují riziko škodlivých rozhodnutí. Umělá inteligence je totiž umělá technologie, která má ve své podstatě sklon k zaujatosti, tvrdí SAS Institute.

Umělá inteligence může být zaujatá


Každý den se používají mentální struktury, zjednodušené diagramy a nápady, které pomáhají organizovat realitu. Tvůrci řešení AI musí tyto podmínky vzít v úvahu, protože subjektivní interpretace dat může mít dopad na výstupní informace poskytované umělou inteligencí. Předpojatá data vedou k chybným nebo dokonce škodlivým výsledkům. Vzhledem k dynamickému rozvoji a rostoucímu využívání AI v různých sektorech ekonomiky je důležité si tato rizika uvědomovat a pracovat na jejich snižování.

„Strojové učení, což je oblast umělé inteligence, umožňuje vytvářet samoobslužné systémy, které se „učí“ z poskytnutých dat. Tato technologie zpočátku využívá tréninková data, proto můžete vylepšit své analytické modely tak, aby v průběhu času představovaly stále přesnější výsledky. První informační pakety připravuje člověk, který hned na začátku rozhodne o výběru výstupních dat a směru, kterým se bude systém vyvíjet. Pokud systém přijme chybné předpoklady již v počáteční fázi vývoje modelu, budou jeho pozdější závěry také nesprávné,“ uvedl Petr Šlajchrt, country director společnosti SAS Institute pro Českou republiku.

Dodávání neúplných nebo chybných údajů do systému, které způsobí zkreslení výsledků analýzy, je pouze začátkem problému. Samoléčebná řešení dosud nebyla vyvinuta. Naopak existuje velká šance, že systém bude stále méně objektivní. Technologie, která se v současné době využívá, enormní výpočetní výkon a pokročilé algoritmy umožňují strojům činit tisíce rozhodnutí za minutu. To však bohužel znamená, že malé chyby rychle rostou a postupem času se stávají skutečnou hrozbou pro výsledky analýz, což může vést ke špatným rozhodnutím.

Odpovědný vývoj umělé inteligence vyžaduje rozmanitost. Zadané údaje musí brát v úvahu například různé věkové, etnické nebo sociální skupiny. Již ve fázi vytváření týmů pracujících na projektech umělé inteligence by měly být tyto faktory brány v úvahu. Tento přístup umožňuje dívat se na daný problém z různých hledisek, což se promítne do větší rozmanitosti zadávaných dat.

Nedostatečná rozmanitost již ve fázi poskytování dat systému může znamenat, že koncoví uživatelé nebudou moci používat řešení AI, například když systém nezohledňuje rozdíly mezi jednotlivými akcenty. Uživatel z Irska bude mluvit anglicky zcela odlišně od Američana. Když používá chatbota, může mít potíže se splněním pokynů. Taková zkušenost ho účinně odradí od dalších kontaktů se společností, což v širším pohledu může představovat vážnou překážku při budování dobrých zkušeností a loajality zákazníků.

Úvodní foto: Fotolia










Komentáře