Procesory AmpereOne M (nejen) pro úlohy AI
Zatímco dosavadní generace AI spoléhaly většinou na robustní výpočetní výkon grafických karet nabízejících díky svému víceméně úzce účelovému zaměření potřebné parametry pro zpracování obřích digitálních dat, nyní se pozornost výrobců IT hardwaru začíná obracet k procesorům specializovaným na AI.
Portfolio serverových procesorů Ampere stejnojmenné americké firmy rozšířila nová řada 64bitových vícejádrových čipů AmpereOne M vyráběných pomocí 5nm procesu u TSMC. Je zaměřená zejména pro nasazení v datových centrech a inferenci algoritmů umělé inteligence (běh již natrénovaných algoritmů).
Nový procesor je vhodný i pro výpočetně extrémně náročné generativní aplikace umělé inteligence (GenAI), jako je inference AI s využitím velkých jazykových modelů (LLM) a paměťově náročné ukládání objektů do mezipaměti. Silnou stránkou je podpora rychlé kapacitní paměti (podporován je 12kanálový řadič pamětí DDR5-5600), 96 linek PCIe Gen5 a 24 řadičů pro možnost připojení zařízení mimo čip, včetně síťových karet a vysoce výkonných úložných/NVMe zařízení. Osadit lze až 3 TB RAM – to umožňuje načíst do paměti a současně spustit velké množství různých modelů AI, což s implementacemi inference AI založenými na GPU není možné.
Bezpečnostní technologie
Nechybí řada bezpečnostních technologií, jako Memory Tagging, ROJ/JOP Attack i Speculative Side Channel Attack Mitigation, označování paměti a její šifrování jedním klíčem, ověřování ukazatelů apod. Mezi klíčové funkce patří i pokročilá ochrana paměti ECC a ochrana SLC ECC (pro mezipaměť na úrovni systému je zajištěna korekce chyb, čímž se udržuje integrita dat), čištění na pozadí (mezipaměť systému a DRAM jsou neustále prohledávány, aby se detekovaly a opravily chyby jednoho bitu dříve, než se z nich stanou neopravitelné chyby) a komplexní oprava dat (poškozená data jsou označena a jakýkoli pokus o jejich použití je kvalifikován jako chyba, čímž se zabraňuje jejich šíření).
AmpereOne M sestavený z velkého počtu jednovláknových jader s vyhrazenými zdroji propojenými inteligentně řízenou sítí s vysokou šířkou pásma. Je navržen tak, aby poskytoval výjimečný výkon umožňující provádět energeticky úsporné výpočetní úlohy s AI za nižší cenu.
K dispozici budou 92- až 192jádrové modely s 250 až 450 W TDP na frekvencích od 2,6 až do 3,6 GHz podle modelu (144- i 192jádrové verze jsou nabízeny se dvěma různými frekvencemi). Každé jádro, které má 16 kB L1 instrukční cache, 64 kB L1 datovou cache a 2 MB L2 mezipaměti s nízkou latencí, udržuje konzistentní předvídatelný výkon, čímž zmírňuje rušení od sousedních komponent. Systémová mezipamět má kapacitu 64 MB.
Výpočetní konstrukce snižuje spotřebu
Vysoce hustá výpočetní konstrukce procesoru minimalizuje požadavky na prostor a snižuje celkovou spotřebu energie. Procesory AmpereOne M využívají pro zvýšení efektivity pokročilé funkce správy napájení, jako Advanced Configuration and Power Interface (ACPI) pro sofistikované řízení napájení, přizpůsobitelné škálování napětí (Adaptive Voltage Scaling - AVS) pro dynamickou optimalizaci napájení, nebo dynamické škálování napěťové frekvence (Dynamic Voltage Frequency Scaling - DVFS) pro citlivé ladění výkonu a výkonu.
Jemně odstupňované teplotní monitorování a přidělování napájení a dynamický odhad výkonu pro jeho úpravy v reálném čase staví AmpereOne M jako základ pro energeticky úsporné a vysoce výkonné výpočetní systémy s využitím umělé inteligence. Datovým centrům umožňuje dosáhnout optimální efektivity, maximální hustoty pracovní zátěže s mnohem nižšími provozními náklady ve srovnání se starší infrastrukturou založenou na GPU.
Kamil Pittner
Foto: Ampere
50
