MWC 2018
2018
Computex
IFA 2018
Perplexity в партнёрстве с Nvidia перенесла на платформу ПК своё приложение агента искусственного интеллекта Computer — в этом варианте оно получило название Portable Computer. Для его запуска понадобится подходящая машина с достаточно дорогим оборудованием.
Источник изображения: Rubaitul Azad / unsplash.com
Самый простой способ — приобрести настольный компьютер Nvidia DGX Spark под управлением ОС DGX; подойдёт также ПК под Ubuntu на процессоре Arm или x64 с видеокартой серии Nvidia RTX с как минимум 24 Гбайт видеопамяти. DGX Spark обойдётся в $4800, а за старую GeForce RTX 3090 придётся отдать более $1500. Из-за дефицита памяти на более скромные цены в обозримом будущем рассчитывать не приходится.
Перенос ИИ-агента Computer на ПК потребовал не просто заменить облачную модель более компактной. Приложение должно уметь читать и редактировать файлы, запускать команды оболочки, локально работать с PDF и подключаться к внешним сервисам; для запуска ИИ-агента требуется также локальная песочница. Чтобы реализовать все эти возможности, компании пришлось почти полностью пересмотреть стек — значительная часть инженерной работы пришлась на конфигурацию оборудования. Модель по-прежнему должна планировать задачи, вызывать инструменты и выполнять многошаговые операции — и всё это с меньшим числом параметров, чем у облачных моделей, которые обычно использует Perplexity.
Поддерживающий цикл работы агента оркестратор представляет собой детерминированный код, а не модель ИИ: локальная ИИ-модель предлагает действие, а оркестратор формирует контекст, обеспечивает соблюдение политики и запускает утверждённые вызовы инструментов в песочнице на уровне ОС. Песочница ограничивает процессы, путь к файловой системе и доступ к сети; если песочница недоступна, перед выполнением вызовов инструментов среда разработки отключается, и вне песочницы приложение их не запускает.
Источник изображения: perplexity.ai
Среда разработки спроектирована с учётом практического ограничения контекста модели — для Alibaba Qwen3.8-27B это технически 260 000 токенов, но на практике модель начинает испытывать затруднения уже на отметке в 100 000 токенов. Поэтому Portable Computer сохраняет небольшой размер основного интерфейса и набора инструментов; дополнительные навыки загружаются только по мере необходимости. Часто используемые коннекторы переведены в инструменты командной строки вместо прямых обращений по протоколу MCP.
Разработчик провёл тестирование Computer в сравнении с агентскими фреймворками Pi и Hermes. В состоящем из 53 заданий тесте Local Knowledge Work Bench платформа Computer набрала 82,6 % против 77,6 % у Pi и 74 % у Hermes; в задачах ParseBench-100 на работу с диаграммами, макетами, таблицами, текстом и форматированием Computer показала 65,1 %, Hermes — 34,6 %, Pi — 13,9 %. При работе Portable Computer каждая задача запускается на локальном устройстве; если локальная модель не может выполнить какой-либо шаг, она может запросить консультацию у облачной: система выбирает контекст, маркирует конфиденциальную информацию, показывает пользователю, что будет отправлено на внешний ресурс, и перед совершением вызова запрашивает подтверждение.
В Portable Computer есть коннекторы для «Google Диска», Gmail, Slack и GitHub. Веб-поиск и вызовы коннекторов происходят, что очевидно, с подключением внешних ресурсов; инференс модели и обработка частных документов остаются на ПК. Платформу Portable Computer не следует путать с вышедшим ранее приложением Personal Computer для Microsoft Windows и Apple macOS. На начальном этапе доступны модели Alibaba Qwen3.8-27B и PPLX 27B — спецверсией первой модели, прошедшей дополнительное обучение в Perplexity; несколько позже появится поддержка Nvidia Nemotron 3.5 Lightning; пользователи могут подключать и свои модели. На компьютерах Apple Mac запустить Portable Computer пока не получится; на сентябрь запланирован выход версии для Windows.
Источник:
