Сегодня 19 ноября 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Hardware

Nvidia придумала более рациональную HBM — она быстрее обычной на 30 % и экономит до 15 % энергии

Nvidia представила новую технологию в рамках программы NVLink Fusion. NVHBM представляет собой специализированную архитектуру базового кристалла HBM, предназначенную для разработчиков собственных ИИ-ускорителей. По сравнению со стандартной HBM4e она обещает более высокую пропускную способность, меньшее энергопотребление и экономию площади внутри корпуса ускорителя.

 Источник изображений: nvidia.com

Источник изображений: nvidia.com

Как поясняет Nvidia, NVHBM представляет собой специализированный базовый кристалл HBM, разработанный и протестированный совместно с ведущими производителями памяти. Участники программы NVLink Fusion смогут использовать уже готовое решение при создании собственных ускорителей вместо самостоятельной разработки и сертификации подсистемы HBM, что должно сократить сроки вывода новых чипов на рынок.

NVHBM не является заменой самой HBM, а представляет собой один из строительных блоков для специализированных ускорителей партнёров Nvidia. Одним из главных преимуществ технологии должна стать повышенная пропускная способность памяти: компания обещает прирост до 30 % на стек по сравнению со стандартной HBM4e. Для задач, производительность которых ограничена скоростью памяти, это позволит лучше загружать вычислительные блоки и увеличить пропускную способность ускорителя. В частности, при инференсе больших языковых моделей более быстрая передача данных между HBM и вычислительными ядрами позволит увеличить скорость генерации токенов.

Экономия площади достигается за счёт переработанного физического интерфейса памяти. Контроллер перенесён с основного вычислительного кристалла в базовый кристалл трёхмерного стека HBM, а площадь PHY и связанной с ним логики сокращена до 67 % по сравнению со стандартом JEDEC HBM4e. Более узкий интерфейс одновременно упрощает разводку интерпозера. В результате разработчики специализированных ускорителей могут получить до 30 % дополнительной площади основного кристалла для вычислительных блоков и других функций.

Ещё одним преимуществом NVHBM станет снижение энергопотребления памяти на величину до 15 % по сравнению со стандартной HBM4e. Освободившийся энергетический и тепловой бюджет можно использовать для увеличения вычислительной мощности ускорителя или повышения устойчивой производительности при прежнем энергопотреблении. В масштабах крупных ЦОД эффект становится особенно заметным: по расчётам Nvidia, в гипотетическом ЦОД мощностью 1 ГВт с 2000-Вт ускорителями сэкономленной благодаря NVHBM энергии хватило бы для работы ещё 15 000 XPU.

Повышение пропускной способности при одновременном снижении энергопотребления особенно важно для ИИ-ускорителей, которым приходится постоянно перемещать большие объёмы данных, включая веса моделей, KV-кеш и активации. Nvidia утверждает, что сочетание NVHBM с NVLink Fusion за счёт выигрыша в пропускной способности, площади и энергопотреблении способно в совокупности повысить производительность одного XPU на 30 %.

Одним из первых партнёров Nvidia по внедрению NVHBM станет принадлежащая Amazon компания Annapurna Labs. Ускорители следующего поколения Trainium 4 уже получат поддержку NVLink Fusion, а в последующих разработках компания сможет использовать и NVHBM.

Было интересно? Скажите об этом Google, чтобы чаще получать ссылки на наши новости про искусственный интеллект

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
13 лет ожиданий подошли к концу: на PS5, Xbox Series X и S вышла GTA VI 2 ч.
Разработчики смогут решать, достоин ли ПК запускать их приложения и игры — Microsoft готовит новую защиту Windows 2 ч.
В Nginx нашли две критические дыры — хакеры могут захватить сервер без пароля 3 ч.
Хакеры поставили Nvidia на счётчик и грозят утечкой данных — но доказательств взлома нет 3 ч.
«Уже знаю, во что буду играть завтра»: Devolver устроила бесплатную раздачу конкурента GTA VI для тех, кто удалит GTA VI 4 ч.
Nvidia скопировала баг AMD: драйверы GeForce тоже начали чрезмерно нагружать SSD 5 ч.
«Проект Гриффиндор»: стало известно о секретном плане Meta по вовлечению школьников в Instagram 5 ч.
«Вкус будущего»: эксперты Digital Foundry остались впечатлены графикой GTA VI, но не производительностью 6 ч.
OpenAI GPT-6 Cyber взломала iPhone и практически все остальные устройства Apple 7 ч.
Sony подтвердила прошивку, которая нужна для GTA VI на PS5 — пираты пока отстают 8 ч.
Intel запустила новую волну увольнений — Тан продолжает повышать эффективность компании 48 мин.
Новая статья: Обзор системы жидкостного охлаждения Ocypus Omega L36 Ultra Eng Limited: ультрамегасуперэксклюзив 2 ч.
Lenovo готовит бюджетную портативную консоль Legion Go Beam без тачпадов и съёмных контроллеров 2 ч.
Hyundai забрала Boston Dynamics под полный контроль — теперь роботов Atlas ждёт массовое производство 2 ч.
Vulcan сразил топливный голод — ULA установила предварительную причину аварии ракеты со спутниками Amazon Leo 3 ч.
Даже удвоение прибыли не спасло Nvidia: акции компании снова пошли вниз, потянув за собой весь ИИ-сектор 4 ч.
Arista представила обновление платформ R4 и оптическое оборудование для распределённых ИИ-систем 4 ч.
Золото, титан, крокодил и эмаль: российская Caviar выпустила коллекцию люксовых гаджетов в стиле GTA VI 4 ч.
AMD проведёт презентацию на CES 2027 — в анонсе усмотрели намёки на Ryzen с Zen 6 или новые Radeon 4 ч.
Призывы замедлить гонку ИИ оказались балабольством — и продажи Nvidia и AMD это подтверждают 5 ч.