Сегодня 19 ноября 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Hardware

Чудеса оптимизации: китайцы в 149 раз ускорили работу нейросетей без повышения производительности чипов

Не секрет, что в гонке за чем-либо любыми средствами первой страдает оптимизация процессов. Все проблемы с ресурсоёмкими ИИ как раз об этом. Об оптимизации вспоминают только тогда, когда ресурс для продолжения гонки подходит к концу или его перестаёт хватать всем. Своими санкциями США поставили китайских разработчиков в положение, когда оптимизация становится единственным выходом из кризиса дефицита ресурсов. Но это не просто выход — это шанс на прорыв.

 Источник изображения: ИИ-генерация ChatGPT/3DNews

Источник изображения: ИИ-генерация ChatGPT/3DNews

В частности, исследователи из Пекинского университета (Peking University) создали экспериментальную вычислительную систему, в которой несколько обычных электронных процессоров обменивались данными через кремниевые фотонные передатчики и оптический коммутатор. Во время экспериментов платформа выполнила нейросетевую задачу шумоподавления почти в 149 раз быстрее графического процессора, хотя её номинальная вычислительная производительность составляла лишь около 11,6 % от производительности GPU: около 1,97 против 16,96 Тфлопс.

Система состояла из пяти программируемых логических матриц FPGA (ПЛИС), на каждой из которых был размещён один слой пятислойной свёрточной нейросети. Между платами установили кремниевые фотонные трансиверы со скоростью 400 Гбит/с и оптический коммутатор 16 × 16. Четыре канала передачи данных по 100 Гбит/с передавались по общему волокну на четырёх длинах волн. Коммутатор имел потери менее 5 дБ и теоретически мог соединять до 16 вычислительных чипов с совокупной пропускной способностью 6,4 Тбит/с.

Главным преимуществом решения стала конвейерная обработка. Каждая ПЛИС постоянно выполняла обработку своего слоя нейросети и сразу передавала промежуточный результат следующему чипу по оптическому каналу. Благодаря этому не требовалось после обработки каждого слоя сохранять данные во внешней памяти и затем загружать их обратно — именно такие операции создают так называемую «стену памяти» и тормозят работу GPU. Тысяча изображений размером 32 × 32 пикселя была обработана за 105,16 мкс, тогда как контрольный GPU затратил на те же операции 15,643 мс, а эффективность использования вычислительных блоков ПЛИС достигла впечатляющих 94,7 %.

Для эксперимента учёные использовали простую пятислойную нейросеть с ядрами 5 × 5 и набор данных Fashion-MNIST. Было бы заманчиво увидеть подобные эксперименты с большими языковыми или другими современными генеративными моделями. Пока этого нет, но уже сейчас опыт даёт наглядное представление о громадном резерве ускорения ИИ при правильной оптимизации.

«Конкретные задачи могут быть реализованы при ограниченных вычислительных ресурсах, когда совместно разрабатываются алгоритмы, микроархитектуры процессоров и межсоединения на уровне чипов, — резонно отмечают авторы работы. — Эта структура также может снизить нерациональное потребление энергии в центрах обработки данных и оптимизировать задержку или потребление в сценариях с передовыми вычислениями».

Было интересно? Скажите об этом Google, чтобы чаще получать ссылки на наши новости про искусственный интеллект

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
13 лет ожиданий подошли к концу: на PS5, Xbox Series X и S вышла GTA VI 2 ч.
Разработчики смогут решать, достоин ли ПК запускать их приложения и игры — Microsoft готовит новую защиту Windows 2 ч.
В Nginx нашли две критические дыры — хакеры могут захватить сервер без пароля 3 ч.
Хакеры поставили Nvidia на счётчик и грозят утечкой данных — но доказательств взлома нет 3 ч.
«Уже знаю, во что буду играть завтра»: Devolver устроила бесплатную раздачу конкурента GTA VI для тех, кто удалит GTA VI 4 ч.
Nvidia скопировала баг AMD: драйверы GeForce тоже начали чрезмерно нагружать SSD 5 ч.
«Проект Гриффиндор»: стало известно о секретном плане Meta по вовлечению школьников в Instagram 5 ч.
«Вкус будущего»: эксперты Digital Foundry остались впечатлены графикой GTA VI, но не производительностью 6 ч.
OpenAI GPT-6 Cyber взломала iPhone и практически все остальные устройства Apple 7 ч.
Sony подтвердила прошивку, которая нужна для GTA VI на PS5 — пираты пока отстают 8 ч.
Intel запустила новую волну увольнений — Тан продолжает повышать эффективность компании 48 мин.
Новая статья: Обзор системы жидкостного охлаждения Ocypus Omega L36 Ultra Eng Limited: ультрамегасуперэксклюзив 2 ч.
Lenovo готовит бюджетную портативную консоль Legion Go Beam без тачпадов и съёмных контроллеров 2 ч.
Hyundai забрала Boston Dynamics под полный контроль — теперь роботов Atlas ждёт массовое производство 2 ч.
Vulcan сразил топливный голод — ULA установила предварительную причину аварии ракеты со спутниками Amazon Leo 3 ч.
Даже удвоение прибыли не спасло Nvidia: акции компании снова пошли вниз, потянув за собой весь ИИ-сектор 4 ч.
Arista представила обновление платформ R4 и оптическое оборудование для распределённых ИИ-систем 4 ч.
Золото, титан, крокодил и эмаль: российская Caviar выпустила коллекцию люксовых гаджетов в стиле GTA VI 4 ч.
AMD проведёт презентацию на CES 2027 — в анонсе усмотрели намёки на Ryzen с Zen 6 или новые Radeon 4 ч.
Призывы замедлить гонку ИИ оказались балабольством — и продажи Nvidia и AMD это подтверждают 5 ч.