MWC 2018
2018
Computex
IFA 2018
AMD научилась экономить на дорогой серверной памяти: её технология MEXT переносит редко используемые данные из DRAM на гораздо более дешёвые SSD, а алгоритмы ИИ помогают не допустить заметного падения производительности. На первых 145 серверных системах компания оценила экономию примерно в $5 млн.
Источник изображения: AMD
Как рассказал изданию The Register вице-президент AMD по развитию бизнеса Гэри Смердон (Gary Smerdon), ранее возглавлявший MEXT, в крупных серверах на модули оперативной памяти может приходиться от 60 до 90 % стоимости оборудования. Замена части DRAM значительно более дешевой флеш-памятью позволяет сократить расходы без обязательного уменьшения доступного приложениям объема памяти.
Проблема заключается в разнице быстродействия. По словам Смердона, флеш-память может быть в 50 раз дешевле DRAM в пересчете на бит и потреблять в 30 раз меньше энергии, но при этом работать примерно в 500 раз медленнее. Обычная выгрузка данных на SSD способна серьезно замедлить приложения, особенно чувствительные к задержкам.
MEXT использует модель машинного обучения, которая отслеживает обращения к памяти и пытается определить, какие страницы данных понадобятся процессору следующими. Неактивные страницы перемещаются на накопитель, а перед повторным обращением возвращаются в DRAM. Для операционной системы и приложений этот процесс должен оставаться незаметным.
В основе механизма прогнозирования лежит модель, производная от архитектуры Transformer. Вместо следующего слова, как в языковых моделях, она предсказывает следующую востребованную страницу памяти. По утверждению Смердона, первоначальное обучение занимает менее секунды на одном ядре процессора EPYC, после чего модель продолжает адаптироваться к характеру нагрузки. Графический ускоритель для ее работы не требуется.
Результаты зависят от конкретного приложения. В испытаниях AMD система с Apache Spark сохраняла 99 % исходной производительности при замене половины DRAM флеш-памятью. В пакете Synopsys PrimeTime аналогичная конфигурация обеспечивала 95 % производительности, а при сокращении физической DRAM до четверти первоначального объема показатель снижался до 80 %.
AMD также опубликовала результаты внутреннего внедрения MEXT. На 86 серверах компании программное обеспечение обеспечило около 58 Тбайт дополнительной доступной памяти. Покупка сопоставимого объема DRAM обошлась бы примерно в $3,3 млн, тогда как затраты на внедрение MEXT составили около $601 тыс. Таким образом, расчетная экономия достигла $2,78 млн, или 82 % от стоимости расширения памяти традиционным способом.
Программное обеспечение предназначено прежде всего для серверов на процессорах AMD EPYC. На системах Linux для его работы предусмотрен модуль ядра, а для анализа нагрузки предлагается утилита RAM View. AMD сотрудничает с производителями серверов, включая HPE, чтобы подготовить оборудование к использованию MEXT. Коммерческое распространение лицензий через партнеров запланировано на следующий этап внедрения.
AMD приобрела разработчика MEXT в июне 2026 года. Возможности технологии также были представлены вместе с серверными процессорами EPYC Venice на архитектуре Zen 6.
Источник:
