Vyzdvihovat AI hardware, podporující lokální velké jazykové modely, genAI a podobně nestačí. Dodavatelé hardwaru se musí zapojit a sloužit jako prostředník – ne-li přímo vývojář – i pro takové lokální aplikace.
Školíte své zaměstnance ohledně využití možností AI?
Qualcomm to skoro umí. Na veletrhu MWC 2024 neboli jednom z největších mobilních veletrhů na světě společnost tento týden oznámila Qualcomm AI Hub, úložiště více než 75 modelů AI speciálně optimalizovaných pro platformy Qualcomm a Snapdragon. Qualcomm také ukázal lokální LLM se sedmi miliardami parametrů, který běží na počítači (pravděpodobně s procesorem Snapdragon) a který dokáže přijímat zvukové vstupy.
To je všechno hezké, ale i další výrobci počítačů a čipů budou muset předvést reálné příklady umělé inteligence. AI Hub od Qualcommu je dobrým začátkem, i když je určený jen vývojářům. Ale jediný způsob, jak mohou výrobci čipů a počítačů přesvědčit uživatele, aby používali lokální AI, je učinit ji snadnou a levnou a tím i dostupnou. Zatím se k tomu odhodlalo jen velmi málo z nich.
Odvětví osobních počítačů má tendenci chytit se jakéhokoli trendu, protože prodeje hardwaru PC jsou neustále podkopávány chytrými telefony, cloudem a dalšími zařízeními, která ohrožují jeho dominanci. Zatímco během pandemie prodeje notebooků a Chromebooků prudce vzrostly, aktuálně se tvrdě vrátily na zem. Tvrzení, že k provozování dalšího fenoménu, jakým je umělá inteligence, budete potřebovat počítač a že za špičkový hardware zaplatíte, by měl počítačový průmysl omílat do zblbnutí.
Chcete dostávat do mailu týdenní přehled článků z Computerworldu? Objednejte si náš mailový servis a žádná důležitá informace vám neuteče. Objednat si lze také newsletter To hlavní, páteční souhrn nejdůležitějších článků ze všech našich serverů. Newslettery si můžete objednat na této stránce.
Avšak první příklady využití AI běžely v cloudu, což postavilo PC průmysl do pozadí. A ani Microsoft zatím nepůsobí dojmem, že by do lokální AI nějak zvlášť investoval. Vše, co má v názvu značku Microsoft „Copilot“, běží v cloudu a k používání zpravidla vyžaduje buď předplatné, nebo alespoň účet Microsoft.
Většina lidí tak pravděpodobně není nutně přesvědčena o tom, že vůbec potřebuje používat AI, natož aby běžela lokálně na jejich počítači. To je problém, který musí vyřešit výrobci čipů a hardwaru. Řešením však není hardware – je jím software.
Odpovědí jsou aplikace: spousta a spousta aplikací
Microsoft loni představil v Microsoft Storu AI Hub, ale i dnes působí poněkud nevýrazně. Většina dostupných „aplikací“ pro chatboty ve skutečnosti běží v cloudu a vyžaduje předplatné – což samozřejmě nedává smysl, když je Copilot v podstatě zdarma. Totéž platí pro aplikace jako Adobe Lightroom a ACDSee; i ty jsou založeny na předplatném, čemuž by se místní aplikace mohla vyhnout využitím výkonu vašeho lokálního počítače.
Zbývá tedy, aby pochodeň nesli dodavatelé hardwaru. A někteří z nich to udělali: MSI například zpřístupňuje generativní aplikaci AI Artist pro svůj nejnovější herní notebook MSI Raider GE78. Je sice trochu neohrabaná a pomalá, ale alespoň je jednoduchá na instalaci a důvěryhodná.
Jde však o oázu v poušti lokální AI. AMD i Intel se chlubí výkonem svých čipů na jazykových modelech jako je Llama 2, což dává smysl těm, kteří už vyzkoušeli AI chatboty a znají některé z modelů i jejich fungování. AMD například konkrétně vyložilo, jaké aplikace využívají jeho vlastní NPU, které označuje jako Ryzen AI. Při vší úctě to však není dost. Nestačí, že Intel loni spustil fond pro vývoj umělé inteligence. Výrobci čipů je musí dostat do rukou spotřebitelů.
Jak? Jedna metoda je již odzkoušená: zkušební předplatné aplikací poháněných umělou inteligencí, jako je Adobe Photoshop, DaVinci Resolve od BlackMagic nebo Topaz. Zákazníci tradičně nemají rádi bloatware, ale myslím si, že pokud chce počítačový průmysl uvést na trh počítače s umělou inteligencí, bude se muset pokusit o počítač z kategorie pro tvůrce, se kterým se do toho opře.
Namísto „Intel Inside“ by měly začít být v kurzu „AI bundles“ a firmy by měly zapracovat na softwaru, ne do hardwaru. Měly by začít umisťovat loga aplikací i na vnější stranu krabice. Byla by například společnost Adobe ochotná dát svou pečeť na počítač s certifikátem „Photoshop-certified“? To je jen k zamyšlení.
Jinak bych navrhoval jeden z lepších nápadů, které měl Intel: návrat herních setů. Dnes mohou Intel i AMD k nákupu odpovídajícího procesoru nebo základní desky přibalit hru, jako je Assassins' Creed: Mirage. Není to ale tak dávno, co jste si mohli ke koupi hardwaru zdarma stáhnout několik her, které by předvedly výkon procesoru.
Spouštět AI lokálně s sebou nese několik nesporných výhod: například soukromí. Na druhou stranu, pohodlnost použití Copilota a Barda je pádným argumentem, proč používat právě je. Uživatelé jsou nestálí a pokud jim někdo neukáže, že by se měli zajímat, tak se zajímat nebudou.
Pokud AMD, Intel a nakonec i Qualcomm plánují, že se lokální umělá inteligence stane realitou, budou muset tuto možnost učinit jednoduchou, levnou a všudypřítomnou. A vzhledem k tomu, že vlak s umělou inteligencí se již rozjel na plné obrátky, už včera na to bylo pozdě.
Computerworld si můžete objednat i jako klasický časopis. Je jediným odborným měsíčníkem na českém a slovenském trhu zaměreným na profesionály v oblasti informačních a komunikačních technologií (ICT). Díky silnému zázemí přináší aktuální zpravodajství, analýzy, komentáře a přehledy nejnovejších technologií dříve a na vyšší odborné úrovni, než ostatní periodika na tuzemském trhu.
Obsah Computerworldu je určen odborníkům a manažerům z firem a institucí, kteří se podílejí na rozhodovacím procesu při nákupu ICT technologií. Jednotlivá čísla si můžete objednat i v digitální podobě.