Fujitsu tvrdí, že vyřešilo problém nedostatku GPU pro využití AI

Cílem nového middlewaru of Fujitsu je zlepšení přidělování prostředků a správy paměti napříč platformami a aplikacemi AI. V testech se dosáhlo více než dvojnásobného zvýšení  výpočetní efektivity GPU pro pracovní zátěže umělé inteligence (AI).

Software je už podle výrobce k dispozici všem zájemcům, přičemž Fujitsu jej už pilotně zkouší s řadou partnerů.

Společnost Fujitsu začala testovat svůj nový middleware s firmami AWL, Xtreme-D a Morgenrot už v květnu tohoto roku, přičemž výsledky prokázaly až 2,25násobné zvýšení výpočetní efektivity při provozování zátěže AI.

Partneři rovněž zaznamenali při použití zmíněného middlewaru výrazné zvýšení počtu současně zpracovávaných procesů AI v různých cloudových prostředích a na různých serverech.

„Tím, že jsme umožnili sdílení GPU mezi více úlohami, jsme dosáhli téměř 10% zkrácení celkové doby provádění v porovnání se sekvenčním spouštěním úloh na dvou GPU,“ poznamenal Hisashi Ito, technický ředitel společnosti Morgenrot.

Přečtěte si také:

Umělá inteligence vládne světu, ale žádá si stále více energie. Můžou pomoct kvantové počítače?

V současnosti zahájila zkoušky nového produktu také společnost Tradom,  firma Sakura Internet pak provádí studii proveditelnosti využití této technologie pro provoz svých datových center.

Grafické procesory jsou pro zpracování AI vhodnější než klasické procesory CPU. S tím se však ale také výrazně zvýšila spotřeba energie v datových centrech, a navíc vznikl nedostatek GPU, což nutí firmy hledat alternativní řešení.

Podle Gartneru je pro organizace velkou výzvou provozovat infrastrukturu pro AI, al to zejména kvůli ceně komponent a energetické náročnosti. Navíc to vede k problémům v oblasti udržitelnosti. 

Datová centra musejí navíc i vyvažovat úzká místa, která vznikají při nasazování AI s pdporou GPU – jde především o paměť a síť, tvrdí IDC. Jakékoli zlepšení v tomto směru se projeví zlepšením výkonu.

Přečtěte si také:

AI čipy vyhánějí akciové trhy do nových výšek

Middleware Fujitsu tento problém částečně řeší pomocí kombinace technologie adaptivního alokátoru GPU, kterou společnost vyvinula vloni, a technologií optimalizace zpracování AI.

Díky tomu middleware automaticky identifikuje a optimalizuje přidělování prostředků CPU a GPU pro zpracování AI ve více programech a upřednostňuje procesy s vysokou efektivitou provádění.

Přidělování se přitom realizuje na základě jednotlivých GPU, což zlepšuje míru dostupnosti a umožňuje souběžný běh více procesů umělé inteligence, aniž by bylo nutné zabývat se využitím paměti GPU nebo fyzickou kapacitou.

Správa paměti této technologie podle tvůrců umožňuje současné zpracování až 150 GB umělé inteligence, což je přibližně pětinásobek fyzické kapacity paměti GPU.

Podle Gartneru by koncepce tohoto middlewaru mohla dávat smysl, protože spotřeba energie GPU je velkým problémem, a proto přichází ke slovu energetická účinnost – svým způsobem tak lze dělat více s méně prostředky.