Neutuchající poptávka po nástrojích generativní umělé inteligence (genAI) vede k výraznému nárůstu využití výkonově náročných grafických procesorů a procesorů TPU v datových centrech, z nichž některé se rozšiřují z desítek tisíc na více než 100 000 jednotek na jednu serverovou farmu.
S přechodem na cloud computing a genAI rostou i velikosti nových datových center. Není neobvyklé, že se staví nová zařízení s kapacitou 100 až 1 000 megawattů – což podle Electric Power Research Institute (EPRI) zhruba odpovídá energetické potřebě 80 000 až 800 000 domácností.
Využíváte už některé z inovativních metod šifrování?
Očekává se, že spotřeba energie související s umělou inteligencí poroste v příštích třech letech přibližně o 45 % ročně. Odhaduje se například, že nejpopulárnější chatbot ChatGPT společnosti OpenAI spotřebuje ročně přibližně 227 milionů kilowatthodin elektřiny na zpracování 78 miliard uživatelských dotazů.
Pro představu, energie, kterou ChatGPT spotřebuje za jeden rok, by podle výzkumu online služby BestBrokers, která vypočítává kurzy pro obchodování z velkých dat, stačila na napájení 21 602 amerických domácností.
„To sice představuje pouze 0,02 % ze 131 milionů amerických domácností, ale i tak je to ohromující množství, zejména s ohledem na to, že USA jsou na třetím místě na světě v počtu domácností,“ píše BestBrokers v nové zprávě.
Podle zprávy EPRI jsou modely GenAI obvykle mnohem energeticky náročnější než aplikace pro vyhledávání dat, streamování a komunikaci – hlavní síly, které v posledních dvou desetiletích poháněly růst datových center.
Odhaduje se, že s 2,9 watthodinami na jeden požadavek ChatGPT vyžadují dotazy AI desetkrát více elektrické energie než tradiční dotazy Google, které vyžadují přibližně 0,3 watthodiny na jeden dotaz; a nově vznikající, výpočetně náročné funkce, jako je generování obrázků, zvuku a videa, nemají podle EPRI obdoby.
V USA je nyní téměř 3 000 datových center a očekává se, že do roku 2030 se jejich počet zdvojnásobí. Ačkoli se odhaduje, že aplikace genAI dnes využívají pouze 10–20 % elektrické energie v datových centrech, toto procento rychle roste.
„Očekává se, že do roku 2030 vzroste spotřeba datových center na 4,6 % až 9,1 % roční výroby elektřiny v USA oproti dnešním odhadovaným 4 %,“ uvedla EPRI.
Zatím žádná krize – ale energetické nároky rostou
Ačkoli se podle ředitele výzkumu IDC Seana Grahama do roku 2028 očekává zdvojnásobení spotřeby energie datových center, stále se jedná o malé procento celkové spotřeby energie.
„Není tedy spravedlivé svalovat vinu za spotřebu energie na umělou inteligenci,“ řekl. „Teď nechci říct, že AI nespotřebovává hodně energie a že datová centra nerostou velmi rychle. Spotřeba energie datových center roste o 20 % ročně. To je významné, ale stále je to jen 2,5 % celosvětové poptávky po energii.“
Každá GPU v datovém centru AI může při trénování jednoho velkého jazykového modelu (LLM) – algoritmického základu nástrojů a platforem genAI – spotřebovat více než 400 wattů energie. To znamená, že pouhé trénování jediného LLM, jako je ChatGPT-3, může vést ke spotřebě energie až 10 gigawatthodin (GWh). To se zhruba rovná roční spotřebě elektřiny více než 1 000 amerických domácností.
„Zajímavé je, že trénink modelu GPT-4 s ohromujícím počtem 1 bilionu parametrů vyžadoval za 100 dní neuvěřitelných 62,3 milionu kWh elektrické energie,“ uvádí zpráva společnosti BestBroker. „To je 48krát více energie, než spotřeboval model GPT-3, který pro srovnání spotřeboval asi 1,3 milionu kWh za pouhých 34 dní.“
Podle studie Washingtonské univerzity existují po celém světě stovky takových datových center, která spravují především velké technologické firmy jako Amazon, Microsoft a Google. A množství energie, které spotřebují, rychle roste. V roce 2022 dosáhne celková spotřeba energie datových center AI v USA 23 bilionů terawatthodin (TWh).
Chcete dostávat do mailu týdenní přehled článků z Computerworldu? Objednejte si náš mailový servis a žádná důležitá informace vám neuteče. Objednat si lze také newsletter To hlavní, páteční souhrn nejdůležitějších článků ze všech našich serverů. Newslettery si můžete objednat na této stránce.
Podle IDC Research se očekává, že toto číslo poroste kombinovaným ročním tempem 44,7 % a do roku 2027 dosáhne 146,2 TWh. Do té doby se očekává, že spotřeba energie datových center s umělou inteligencí bude představovat 18 % veškeré spotřeby energie datových center.
Již nyní se spekuluje – vzhledem k tomu, jak rychle genAI vtrhla na scénu – že nebude trvat tak dlouho, než se objeví krize. Elon Musk na začátku tohoto roku prohlásil, že do roku 2025 nebude dostatek energie pro napájení rychlého rozvoje AI.
Dva typy cen?
Podle čerstvě zveřejněné studie IDC rostou ceny elektřiny nejen pod tlakem růstu genAI, ale také v důsledku dynamiky nabídky a poptávky, environmentálních předpisů, geopolitických událostí a extrémních povětrnostních jevů, které jsou částečně podpořeny změnou klimatu.
IDC se domnívá, že vyšší ceny elektřiny v posledních pěti letech budou pravděpodobně pokračovat, což výrazně prodraží provoz datových center. (Náklady na vybudování datového centra se podle IDC pohybují od 6 do 14 milionů dolarů za megawatt a průměrná životnost každého centra je 15 až 20 let).
Podcast magazínu Computerworld
V podcastu se bavíme s lidmi, kteří znají svět ITC a mají o něm co říct. Podcast najdete na všech obvyklých podcastových aplikacích: Spotify, Apple Podcasts, Seznam Podcasty nebo Podbean.
V této souvislosti dodavatelé elektřiny a další energetické společnosti argumentují, že tvůrci a hostitelé umělé inteligence by měli být povinni platit vyšší ceny za elektřinu – stejně jako před nimi poskytovatelé cloudových služeb – protože ve srovnání s ostatními uživateli rychle spotřebovávají větší množství výpočetních cyklů, a tedy i energie.
Dodavatelé také tvrdí, že musí vybudovat energetickou infrastrukturu, aby zvládli zvýšenou spotřebu. Například společnost American Electric Power (AEP) v Ohiu navrhla, aby se majitelé datových center s umělou inteligencí museli zavázat k desetiletému závazku, že budou měsíčně platit minimálně 90 % energie, kterou podle svých slov potřebují, i když spotřebují méně.
Společnost AEP uvedla, že do roku 2030 čelí předpokládanému nárůstu zatížení datovými centry o 15 GW a chce peníze předem na rozšíření své energetické infrastruktury.
Provozovatelé datových center se nepřekvapivě brání. Proti návrhu společnosti AEP v současné době bojují společnosti Google, Amazon, Microsoft a Meta. Tyto společnosti minulý měsíc před ohijskou komisí pro veřejné služby tvrdily, že zvláštní sazby by byly „diskriminační“ a „nepřiměřené“.
Graham nechtěl říci, zda by zvláštní sazby za elektřinu pro poskytovatele umělé inteligence byly spravedlivé, ale poukázal na standard účtování nižších sazeb za elektřinu pro velkoodběratele v průmyslu.
„Pokud o sobě a o mně přemýšlíte jako o spotřebitelích – zapomeňte na trh, na kterém se pohybujeme – očekáváte množstevní slevy,“ řekl. „Takže si myslím, že poskytovatelé datových center očekávají množstevní slevy.“
Podle Grahama je elektřina zdaleka největším nákladem na provoz datového centra, který tvoří 40 až 60 % nákladů na infrastrukturu; změna této nákladové struktury by měla „obrovský dopad“ na zisky společností.
Dokonce i výrobci čipů sledují situaci s obavami. Společnosti Nvidia, Intel a AMD jsou znepokojeny rostoucími energetickými potřebami, a proto nyní pracují na procesorech s nižší spotřebou energie, které by měly pomoci tento problém řešit. Například Intel brzy uvede na trh novou generaci akcelerátorů umělé inteligence, které přesunou pozornost od tradičních výpočetních a paměťových schopností ke spotřebě energie na čip.
Jaderná energie jako možnost
Provozovatelé datových center AI mezitím obracejí svou pozornost k nečekanému zdroji energie: jaderné energii. Společnost Amazon počátkem letošního roku utratila 650 milionů dolarů za nákup datového centra od společnosti Tesla, které funguje na 100 % na jadernou energii z jedné z největších jaderných elektráren v USA.
A právě minulý týden společnost Microsoft oznámila, že pracuje na dohodě se společností Constellation Energy o znovuotevření elektrárny Three Mile Island v Pensylvánii – místa nejhorší jaderné havárie v historii USA. Na základě této dohody by Microsoft po dobu příštích 20 let nakupoval 100 % energie z Three Mile Island, aby uspokojil své nenasytné energetické potřeby v oblasti umělé inteligence.
HP Knowledge HUB pro moderní firemní IT
NOVINKA Navštivte novou speciální on-line zónu CIO Business Worldu, kde vám ve spolupráci s HP budeme průběžně radit, jak snadno a bezpečně pracovat na cestách, jak si usnadnit život používám správných nástrojů, jak zvládnout přechod z kanceláří domů a zase nazpátek a jak se přitom chovat ekologicky.
Pomoc a inspiraci pro moderní IT najdete v našem HP Knowledge HUBu.
V červenci vydal americký poradní výbor pro energetiku zprávu o zajištění energie pro umělou inteligenci a datová centra; nabídl 16 doporučení, jak může americké ministerstvo energetiky pomoci spolehlivě a cenově dostupně pokrýt rostoucí poptávku. Zpráva zohledňuje dynamiku napájení pro trénink modelů AI, provozní flexibilitu pro provozovatele datových center a veřejné služby a slibné technologie výroby a skladování energie pro pokrytí růstu zatížení.
Agentura ve zprávě uvedla, že poskytovatelé elektřiny, zákazníci datových center a další velcí odběratelé vyjádřili obavy o schopnost udržet krok s poptávkou a „téměř shodně doporučili urychlit doplnění výroby a skladování, odložit vyřazení z provozu a provést další investice do stávajících zdrojů“.
Mezi tyto aktualizace patří „zvýšení výkonu stávajících jaderných a vodních elektráren a jejich opětovné licencování“ a co nejrychlejší demonstrace nových čistých, pevných, cenově dostupných a dispečerských technologií.
„Ve většině případů (zúčastněné strany) považují nové přírůstky kapacity zemního plynu – vedle solárních, větrných a bateriových zdrojů – za hlavní možnost, která je dnes k dispozici pro zachování spolehlivosti,“ uvádí se ve zprávě.
„Budeme potřebovat všechny zdroje energie, včetně geotermální a vodíkové,“ řekl Graham z IDC. „Spotřeba energie AI skutečně roste. Lze vyvodit určité analogie s cloudem. Jediná věc, která se u AI liší, je velikost spotřeby energie na jeden server.“
Computerworld si můžete objednat i jako klasický časopis. Je jediným odborným měsíčníkem na českém a slovenském trhu zaměreným na profesionály v oblasti informačních a komunikačních technologií (ICT). Díky silnému zázemí přináší aktuální zpravodajství, analýzy, komentáře a přehledy nejnovejších technologií dříve a na vyšší odborné úrovni, než ostatní periodika na tuzemském trhu.
Obsah Computerworldu je určen odborníkům a manažerům z firem a institucí, kteří se podílejí na rozhodovacím procesu při nákupu ICT technologií. Jednotlivá čísla si můžete objednat i v digitální podobě.