Nvidia NVHBM: 30% повече лента и 15% по-малко ток

Nvidia обяви на 26 август собствена версия на високочестотната памет за AI ускорители. Казва се NVHBM и според официалния блог на компанията дава до 30% по-висока честотна лента на стек и до 15% по-ниска консумация в сравнение със стандартната HBM4E. Технологията е същата, която Nvidia ще ползва в бъдещите си GPU-та, а сега се предлага и на партньорите по програмата NVLink Fusion — компаниите, които правят собствени AI чипове. Първият, който ще я използва, е Annapurna Labs на Amazon.

Контролерът се мести в стека

Идеята зад NVHBM е изненадващо проста. При обикновената HBM памет контролерът стои върху изчислителния чип — тоест заема силиций, който иначе би могъл да смята. Nvidia премества този контролер в самия 3D стек на паметта, в преработен base die, и добавя собствен PHY интерфейс вместо стандартния по JEDEC.

Ефектът е двоен. От една страна, комуникацията между контролера и клетките става по-къса и по-евтина откъм енергия. От друга, изчислителният чип си връща площ. В корпоративния блог Nvidia говори за до 25% повече свободна площ върху compute die-а, а в техническия си блог — за до 30% повече използваем силиций на главния чип. Самата PHY и поддържащата ѝ логика се свиват с до 67% спрямо JEDEC HBM4E.

Има и трети, по-скучен, но не по-маловажен ефект: опростеното трасиране през интерпозера освобождава до 80% повече полезен силиций в целия layout. За пакет, в който всеки квадратен милиметър се брои, това не е дребна работа.

Какво означават 15% по-малко ток

Процентите звучат абстрактно, затова Nvidia ги превежда в мащаб. При дейта център от 1 гигават и ускорители по 2000 вата спестената от паметта мощност освобождава топлинен бюджет за около 15 000 допълнителни XPU в същата сграда. Тоест печалбата не е в сметката за ток, а в това колко чипа изобщо се побират — а точно това е тясното място при сегашните AI ферми.

Комбинирана с NVLink Fusion, Nvidia твърди за 30% обща печалба от край до край на XPU, като събере ефектите от лентата, площта и консумацията. Числото идва от самата компания и все още няма независима проверка.

Първи клиент: Annapurna Labs

Amazon е първият партньор, който ще прави чипове с NVHBM — през подразделението Annapurna Labs, което стои зад серията Trainium. „NVHBM представлява нов архитектурен подход към производителността и ефективността на високочестотната памет“, коментира Нафеа Бшара, вицепрезидент в Annapurna Labs.

Важната част обаче е в бизнес модела. Nvidia не продава памет — тя стандартизира дизайна на base die-а и PHY-то и го предлага за производство от няколко доставчика на памет. За клиентите на NVLink Fusion това означава, че не им се налага да квалифицират отделно всяка комбинация чип–памет; получават готова, валидирана имплементация от повече от един източник.

За тримата големи производители на памет — SK hynix, Samsung и Micron — картината е по-двусмислена. Nvidia на практика започва да диктува как изглежда вътрешността на техния продукт, а конкуренцията се измества от спецификацията към това кой ще произведе чуждия дизайн по-евтино.

Част от голяма седмица за Nvidia

Анонсът дойде дни след Hot Chips 2026, където Nvidia показа цялото си портфолио за AI инфраструктура — Vera Rubin NVL72, мрежата Spectrum-X Multiplane за 512 000 GPU и инференс ускорителя Groq 3 LPX, който компанията придоби заедно с Groq за 20 млрд. долара в края на 2025 г.

Снимка: NVIDIA

Любопитното е, че Groq 3 LPX е точно обратното на NVHBM: чипът LP30 няма HBM изобщо и разчита на около 500 MB SRAM на кристал. Nvidia очевидно залага и на двете посоки — памет в самия чип за интерактивния инференс и по-евтина за интегриране HBM за всичко останало.

Темата с паметта беше централна за цялата конференция. Samsung показа там LPDDR5X-PIM с изчислителни блокове в банките, а Intel — 256-ядрения Xeon 7 Diamond Rapids. Общото е, че никой вече не говори за такт и ядра, а за това как да не се чака паметта.

Какво не знаем

Nvidia не съобщи нито дата за масово производство, нито кои конкретно доставчици ще правят NVHBM, нито каква е цената спрямо стандартна HBM4E. Няма и капацитети или скорост на пин — само относителни проценти спрямо HBM4E, чиято собствена спецификация върви към 16 Gbps на пин.

Дотогава NVHBM си остава обещание с добра инженерна логика зад себе си: най-лесният начин да ускорите AI чип вече не е да сложите повече транзистори, а да махнете от него онова, което не трябва да е там.

Източници: NVIDIA, Tom’s Hardware и TechPowerUp.