Сегодня 18 ноября 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Теги → оркестратор

«Яндекс» разработает оркестратор для ИИ-моделей

«Яндекс» ведёт разработку системы оркестратора моделей искусственного интеллекта, которая обеспечит умное распределение задач между нейросетями, чтобы при минимальной стоимости качество работы ИИ было максимальным, сообщили Forbes в компании. За рубежом такие решения уже существуют, и они популярны, говорят эксперты.

 Источник изображения: yandex.ru/company

Источник изображения: yandex.ru/company

Инженеры «Яндекса» подготовят единую систему, которая объединит оркестратор из собственных моделей компании и открытых нейросетей — эта система будет лежать в основе «Алисы AI», рассказал руководитель направления «Алисы» и умных устройств «Яндекса» Валерий Стромов. Первая версия оркестратора уже существует, и ей пользуются внутри «Яндекса»; в сентябре должна выйти общедоступная сборка. «Наша стратегическая задача сейчас — уйти от парадигмы одной модели к нескольким, часть из которых будут опенсорсными, создать систему умного распределения задач, чтобы максимальное качество достигалось по минимальной стоимости, и создать обвязку, harness (программную оболочку), которая даст модели „руки“ в физическом мире — чтобы „Алиса“ могла использовать разные сервисы, создавать память о пользователе или бизнесе, запускать код и т.д. Мы хотим стать пионерами этого подхода в России», — пояснил господин Стромов.

Когда число ИИ-моделей становится большим, оркестратор начинает испытывать затруднения, и качество его работы снижается. «В первой версии мы будем жить с тремя–пятью моделями-экспертами. Среди всего потока задач львиная доля — думаю, это будет всегда в районе 80–90%, — будет работать на нашей модели, а узкоспециализированные вещи будут отправляться в опенсорсные модели в нашей обвязке. Это фактически позволит нам переигрывать таких игроков, как Google, у которых пока одна модель, и им нужно делать так, чтобы она была умна везде — а это заметно больше ресурсов», — добавил он. «Яндекс» разрабатывает систему не из желания следовать трендам, а в связи с инженерной необходимостью: инференс, то есть запуск уже обученных моделей, обходится недёшево, поэтому «хочется дать пользователю и бизнесу максимум пользы за минимум ресурсов». В минувшем году «Яндекс» вложил в «Алису AI» 55 млрд рублей, и в этом году показатель останется тем же, но на фоне мировых гигантов это очень маленькая сумма, признал Валерий Стромов.

Потребительские качества ИИ часто связаны не с миллиардами параметров у моделей, а с их практическим применением, доступностью интерфейса — маршрутизация помогает обходить ограничения и обеспечивать высокую скорость работы моделей, говорят опрошенные Forbes эксперты. При наличии оркестратора потребность обращаться к самым мощным нейросетям возникает не всегда, а модели становятся взаимозаменяемым ресурсом. Наконец, решается задача о хранении контекста — хранить его в моделях иногда слишком расточительно.


window-new
Soft
Hard
Тренды 🔥
В Nginx нашли две критические дыры — хакеры могут захватить сервер без пароля 23 мин.
Хакеры поставили Nvidia на счётчик и грозят утечкой данных — но доказательств взлома нет 35 мин.
«Уже знаю, во что буду играть завтра»: Devolver устроила бесплатную раздачу конкурента GTA VI для тех, кто удалит GTA VI 2 ч.
Nvidia скопировала баг AMD: драйверы GeForce тоже начали чрезмерно нагружать SSD 3 ч.
«Проект Гриффиндор»: стало известно о секретном плане Meta по вовлечению школьников в Instagram 3 ч.
«Вкус будущего»: эксперты Digital Foundry остались впечатлены графикой GTA VI, но не производительностью 3 ч.
OpenAI GPT-6 Cyber взломала iPhone и практически все остальные устройства Apple 4 ч.
Sony подтвердила прошивку, которая нужна для GTA VI на PS5 — пираты пока отстают 6 ч.
Huawei похвасталась, что число пользователей HarmonyOS превысило 100 млн 6 ч.
В «Яндекс 360» для бизнеса появилась поддержка плагинов — они позволяют расширить возможности виртуального офиса 8 ч.
Инженеры угрожают новому руководству Nvidia увольнениями, если Хуанг не вернётся на пост гендира 30 мин.
Даже удвоение прибыли не спасло Nvidia: акции компании снова пошли вниз, потянув за собой весь ИИ-сектор 2 ч.
Arista представила обновление платформ R4 и оптическое оборудование для распределённых ИИ-систем 2 ч.
Золото, титан, крокодил и эмаль: российская Caviar выпустила коллекцию люксовых гаджетов в стиле GTA VI 2 ч.
США пытаются ещё сильнее ограничить экспорт ASML в Китай — Нидерланды против 2 ч.
AMD проведёт презентацию на CES 2027 — в анонсе усмотрели намёки на Ryzen с Zen 6 или новые Radeon 2 ч.
Призывы замедлить гонку ИИ оказались балабольством — и продажи Nvidia и AMD это подтверждают 3 ч.
TCL придумала, как избавить OLED-мониторы от выгорания без выключения экрана — и заодно сделать их дешевле 5 ч.
Мини ПК на Nvidia по цене от $4399: стартовали продажи систем RTX Spark на Windows для локального ИИ 5 ч.
Everspin и JEDEC разрабатывают стандарт для MRAM, чтобы сделать её массовой 6 ч.