Сегодня 19 ноября 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Hardware

Инженеры уложили HBM на бок — память стала быстрее, холоднее и вместительнее

Инженеры предложили новый способ наращивания памяти для ускорителей ИИ и графических процессоров: вместо укладки кристаллов DRAM привычной «башней», как в HBM, их предлагается устанавливать на ребро, превращая массив памяти в объёмный блок из кремниевых пластин. Это сразу решает несколько проблем масштабирования памяти: увеличивает пропускную способность и ёмкость, а также позволяет избежать роста тепловыделения.

 Источник изображения: University of Tokyo

Вертикальное, но не стековое размещение кристаллов памяти улучшит её характеристики. Источник изображения: University of Tokyo

Проблема наращивания памяти типа HBM приобретает всё большую актуальность из-за роста больших языковых моделей: современные GPU уже окружены несколькими стеками HBM, но дальнейшее увеличение числа слоёв в каждом стеке грозит перегревом и потерей эффективности. В обычной HBM кристаллы DRAM располагаются друг над другом на базовом кристалле и соединяются сквозными TSV-соединениями. Такая структура плохо отводит тепло к радиатору, поскольку кристаллы разделены слоем диэлектрика с низкой теплопроводностью.

Для решения проблемы теплоотвода от памяти ускорителей на июньском симпозиуме IEEE VLSI были представлены два варианта, оба из которых предлагают поставить условный куб HBM на ребро. По большому счёту это будет уже не память HBM, поскольку у неё не будет базовой подложки, к которой подключаются все кристаллы. Вместо этого каждый кристалл в 3D-сборке DRAM на нижнем ребре будет нести группу интерфейсных и силовых контактов для подключения к подложке с ускорителем или графическим процессором.

Более того, в концепции памяти V-Die, разработанной при участии южнокорейских университетов UNIST и Hanbat National University, между кристаллами также предполагается размещать микрофлюидные каналы для циркуляции хладагента. Кроме того, отказ от достаточно толстых TSV дополнительно освобождает площадь под ячейки памяти, а собственные блоки ввода-вывода (I/O) на каждом кристалле позволяют отказаться от отдельного базового кристалла. Контакты для подключения к подложке предлагается размещать вдоль нижней кромки кристалла с шагом около 20 мкм.

Расчёты показывают, что V-Die может обеспечить примерно в четыре раза больше соединений, чем HBM4, и сократить время чтения из памяти на 37 %. При моделировании системы на GPU уровня Nvidia H100 с нагрузкой, похожей на большую языковую модель масштаба GPT-3, вариант V-Die обеспечивал производительность памяти на уровне 540 токенов в секунду против 296 токенов в секунду у HBM4 при той же ёмкости памяти. Задержка до выдачи первого токена снижалась на 32 % (примерно на 24 мс), а температура за счёт микрофлюидного охлаждения удерживалась на уровне около 45 °C — заметно ниже типичных пиков HBM, которые могут превышать 80 °C.

Впрочем, технология V-Die подверглась критике со стороны специалистов. По их словам, почти невозможно обеспечить такую точность производства, чтобы все контакты на рёбрах куба памяти совпали с контактами для пайки на подложке ускорителя. Однако об этой проблеме позаботилась другая группа исследователей — из Японии.

Японская группа из University of Tokyo, Tohoku University и RIKEN предложила подход к монтажу «кубической» памяти, названный ими MOSAIC («мозаика»). Жёсткие контакты, по их мнению, следует оставить только для питания сборки DRAM, поскольку они крупнее и менее требовательны к точности совмещения, тогда как данные и управляющие сигналы предлагается передавать с подложки на «куб» памяти индуктивным бесконтактным способом.

В частности, исследователи предложили формировать на кристаллах памяти вытянутые катушки размером около 80 × 240 мкм, а на подложке размещать ответные катушки под прямым углом. Передача данных будет осуществляться посредством магнитного поля, поэтому элементы не обязаны совпадать с микронной точностью. В одном кубе MOSAIC можно разместить 98 кристаллов и получить 294 Гбайт памяти, а при уменьшении толщины кристалла DRAM до 100 мкм авторы оценивают потенциал в 294 кристалла и 882 Гбайт памяти в том же объёме при расчётной пиковой температуре около 81,3 °C.

Было интересно? Скажите об этом Google, чтобы чаще получать ссылки на наши новости про технологии и рынок it

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
13 лет ожиданий подошли к концу: на PS5, Xbox Series X и S вышла GTA VI 2 ч.
Разработчики смогут решать, достоин ли ПК запускать их приложения и игры — Microsoft готовит новую защиту Windows 3 ч.
В Nginx нашли две критические дыры — хакеры могут захватить сервер без пароля 3 ч.
Хакеры поставили Nvidia на счётчик и грозят утечкой данных — но доказательств взлома нет 3 ч.
«Уже знаю, во что буду играть завтра»: Devolver устроила бесплатную раздачу конкурента GTA VI для тех, кто удалит GTA VI 4 ч.
Nvidia скопировала баг AMD: драйверы GeForce тоже начали чрезмерно нагружать SSD 5 ч.
«Проект Гриффиндор»: стало известно о секретном плане Meta по вовлечению школьников в Instagram 5 ч.
«Вкус будущего»: эксперты Digital Foundry остались впечатлены графикой GTA VI, но не производительностью 6 ч.
OpenAI GPT-6 Cyber взломала iPhone и практически все остальные устройства Apple 7 ч.
Sony подтвердила прошивку, которая нужна для GTA VI на PS5 — пираты пока отстают 8 ч.
Intel запустила новую волну увольнений — Тан продолжает повышать эффективность компании 60 мин.
Новая статья: Обзор системы жидкостного охлаждения Ocypus Omega L36 Ultra Eng Limited: ультрамегасуперэксклюзив 2 ч.
Lenovo готовит бюджетную портативную консоль Legion Go Beam без тачпадов и съёмных контроллеров 2 ч.
Hyundai забрала Boston Dynamics под полный контроль — теперь роботов Atlas ждёт массовое производство 2 ч.
Vulcan сразил топливный голод — ULA установила предварительную причину аварии ракеты со спутниками Amazon Leo 3 ч.
Даже удвоение прибыли не спасло Nvidia: акции компании снова пошли вниз, потянув за собой весь ИИ-сектор 4 ч.
Arista представила обновление платформ R4 и оптическое оборудование для распределённых ИИ-систем 4 ч.
Золото, титан, крокодил и эмаль: российская Caviar выпустила коллекцию люксовых гаджетов в стиле GTA VI 4 ч.
AMD проведёт презентацию на CES 2027 — в анонсе усмотрели намёки на Ryzen с Zen 6 или новые Radeon 5 ч.
Призывы замедлить гонку ИИ оказались балабольством — и продажи Nvidia и AMD это подтверждают 5 ч.