Nový „mozek na čipu“ slibuje 460× vyšší výkon při zpracování AI procesů

Indický vědecký institut (Indian Institute of Science, IIS) oznámil průlom v oblasti hardwaru pro umělou inteligenci. Vyvinul neuromorfní výpočetní platformu inspirovanou mozkem. 

Je schopná ukládat a zpracovávat data až na úrovni 16 500 vodivostních stavů svého molekulárního filmu, což představuje dramatický skok oproti tradičním digitálním systémům, které jsou omezeny na pouhé dva stavy.

Sreetosh Goswami, který vedl tým zodpovědný za vývoj platformy, uvedl, že díky tomuto objevu se podařilo vyřešit několik nevyřešených problémů, které se v oblasti neuromorfních počítačů táhnou již více než deset let. 

Inovace tak je považována za potenciální převrat v oblasti hardwaru pro umělou inteligenci, protože nabízí energetickou účinnost, rychlost i zvýšení výkonu, což by mohlo otevřít nové možnosti pro nasazení umělé inteligence ve velkém.

„Čip bude hotov v příštích dvou až třech letech a plánujeme také založit startup, který jej uvede na trh,“ řekl Goswami.

V čem je inovace jiná?

Neuromorfní platforma týmu IIS je navržena tak, aby řešila některé z největších problémů, kterým dnes hardware pro umělou inteligenci čelí: spotřebu energie a výpočetní neefektivitu. 

V tradičních digitálních procesorech AI jsou úlohy, jako je trénování velkých jazykových modelů (LLM), extrémně náročné na zdroje, vyžadují značný výpočetní výkon a energii, což je často omezuje na datová centra s vysokou energetickou dostupností.

Naproti tomu analogová výpočetní platforma IIS slibuje výrazné zkrácení času i energie potřebné pro takové úlohy. Je to především díky její schopnosti ukládat a zpracovávat data v 16 500 různých stavech v rámci jediného zařízení, což je obrovské zlepšení oproti binárním systémům, které se spoléhají pouze na dva stavy.

Goswami vysvětlil, jak tato inovace zásadně mění způsob provádění algoritmů umělé inteligence. 

„Ve všech tréninkových procesech je základní matematickou operací násobení vektorů a matic,“ řekl Goswami. „Na digitální platformě trvá násobení vektoru o velikosti n maticí n x n n² kroků. Naproti tomu náš akcelerátor ji provede v jediném kroku. Toto snížení počtu výpočetních kroků se přímo promítá do podstatného zvýšení energetické účinnosti.“

Energetická účinnost nové platformy je obzvláště působivá. Podle srovnání, které Goswami cituje, dosahuje tzv. dot product engine platformy výkonu 4,1 TOPS/W, což znamená, že je 460krát efektivnější než 18jádrový procesor Haswell a 220krát efektivnější než grafický procesor Nvidia K80, který se běžně používá v pracovních úlohách využívajících umělou inteligenci.

Vzestup neuromorfních technologií

Neuromorfní computing je pokročilá oblast výpočetní techniky, která napodobuje architekturu a procesy lidského mozku. Namísto tradičních digitálních metod, které se spoléhají na binární stavy, využívají neuromorfní systémy analogové signály a větší množství vodivostních stavů ke zpracování informací podobně jako neurony v lidském mozku. 

Jádrem inovace IIS je schopnost zpracovat až16 500 takových stavů. Pro zpracování složitějších dat musí tyto systémy kombinovat více binárních stavů, což však zvyšuje časovou a energetickou náročnost procesu.

„S naším řešením může jediné zařízení ukládat a zpracovávat data v 16 500 úrovních v jediném kroku,“ řekl Goswami. Díky tomu je proces vysoce prostorově efektivní a umožňuje paralelismus ve výpočtech, což výrazně urychluje pracovní zátěž umělé inteligence.

Tyto systémy jsou navrženy tak, aby prováděly úlohy, jako je rozpoznávání vzorů, učení a rozhodování, efektivněji než běžné počítače. Díky integraci paměti a zpracování do jediné jednotky slibují neuromorfní počítače rychlejší a energeticky úspornější řešení složitých úloh zejména v oblastech, jako je strojové učení, analýza dat a robotika.

Taková úroveň přesnosti je nezbytná pro trénink pokročilých modelů umělé inteligence, které vyžadují vysoce přesné výpočty. 

„Čtrnáctibitová přesnost, kterou náš akcelerátor nabízí, zajišťuje robustní tréninkový výkon,“ dodal Goswami. Tato přesnost v kombinaci se schopností platformy zpracovávat složitá data v menším počtu kroků by mohla inovaci IIS postavit do pozice rozhodujícího milníku pro rychlejší a efektivnější modely AI v budoucnosti.

Kromě IIS na technologii neuromorfních počítačů aktivně pracuje několik předních technologických společností a výzkumných institucí. Například společnost Intel vyvinula neuromorfní čip Loihi a dalším průkopnickým počinem v této oblasti je TrueNorth společnosti IBM, který dokáže simulovat miliony neuronů a synapsí.

Mezitím univerzity, jako je Stanford a MIT, organizují výzkum s cílem zdokonalit neuromorfní výpočetní techniku a integrovat ji s aplikacemi umělé inteligence. A i když je současný stav neuromorfních počítačů slibný, stále se nachází v experimentální fázi, přičemž většina vývoje se zaměřuje spíše na výzkumné prototypy než na komerční aplikace. 

S rostoucí náročností úloh umělé inteligence a strojového učení jsou nicméně neuromorfní čipy považovány za potenciální průlom pro dosažení vyšší energetické účinnosti a rychlosti, zejména v oblastech, jako je robotika, autonomní systémy a zpracování dat v reálném čase.

Integrace se systémy na bázi křemíku

Navzdory novátorskému přístupu je platforma IIS navržena tak, aby fungovala společně se stávajícím hardwarem pro umělou inteligenci, nikoli aby jej nahradila. Neuromorfní akcelerátory, jako je ten, který vyvinula IIS, jsou obzvláště vhodné pro odlehčení úloh, které zahrnují opakované násobení matic – běžnou operaci v oblasti AI.

„GPU a TPU, které jsou digitální, jsou skvělé pro určité úlohy, ale naše platforma je může převzít, pokud jde o násobení matic. To umožňuje výrazně zvýšit rychlost,“ vysvětlil Goswami. Tento hybridní přístup využívající jak digitální, tak analogové systémy by mohl otevřít cestu k modelům umělé inteligence, které budou výkonnější a zároveň energeticky úspornější.

S rostoucí poptávkou po pokročilejších modelech AI se stávající digitální systémy blíží svým energetickým a výkonnostním limitům. Procesory na bázi křemíku, které již léta pohánějí pokrok v oblasti AI, začínají vykazovat klesající účinnost, pokud jde o rychlost a efektivitu.

„S tím, jak se křemíková elektronika blíží naplnění svého potenciálu, se stává klíčovým navrhování akcelerátorů inspirovaných mozkem, které mohou pracovat společně s křemíkovými čipy a poskytovat rychlejší a efektivnější AI,“ poznamenal Goswami. Díky práci s molekulárními vrstvami a analogovými výpočty nabízí IIS novou cestu pro AI hardware, která by mohla výrazně snížit spotřebu energie a zároveň zvýšit výpočetní výkon.

Tým již demonstroval schopnosti platformy tím, že znovu vytvořil ikonický snímek NASA „Pilíře stvoření“ z vesmírného teleskopu Jamese Webba. To, k čemu by bylo zapotřebí superpočítače, bylo pomocí platformy IIS dokončeno na stolním počítači a za zlomek času a energie, které jsou tradičně potřeba.

Výhled do budoucna: Zcela vlastní neuromorfní čip

Tým IIS se nyní soustředí na to, aby inovaci posunul dále a vyvinul zcela ve vlastní režii integrovaný neuromorfní čip. Toto úsilí, podporované indickým ministerstvem elektroniky a informačních technologií, je domácím počinem, který zahrnuje materiály, obvody a systémy. „Jedná se o výhradně domácí iniciativu, která staví na vlastních zdrojích, od materiálů, přes obvody až po celé systémy,“ řekl Goswami, který je přesvědčen, že se platforma promění v řešení typu systém na čipu.

Výzkumníci věří, že jejich inovace by mohla změnit pravidla hry pro odvětví, která se spoléhají na umělou inteligenci, od cloud computingu až po autonomní vozidla.

Vzhledem k tomu, že celosvětová poptávka po energeticky úsporném hardwaru pro umělou inteligenci roste, mohla by výpočetní platforma IIS inspirovaná mozkem nabídnout životaschopné řešení, které překlenuje propast mezi omezeními křemíku a potřebou výkonnější umělé inteligence. 

Díky svému novému přístupu k energetické účinnosti, úložné kapacitě a rychlosti zpracování je analogová platforma IIS připravena změnit budoucnost hardwaru pro umělou inteligenci.