В процессе разработки функций искусственного интеллекта на основе моделей Gemini для браузера Chrome инженеры Google приняли дополнительные меры предосторожности, чтобы избежать непредсказуемых последствий. Они поступили радикально: создали обширный, полностью подконтрольный компании «альтернативный интернет» Mirror Dimension.
Источник изображений: blog.google
Предназначенные для работы в Сети ИИ-агенты должны понимать принципы устройства интернета, уметь ориентироваться на реальных сайтах и платформах, а также быть устойчивыми к кибератакам. Обучение в традиционных ограниченных тестовых средах даёт лишь частичный эффект. Кроме того, модели могут осознать, что находятся в условиях симуляции или проверки и начать вести себя иначе. С другой стороны, выпускать «необкатанных» ИИ-агентов в открытый интернет крайне рискованно. Поэтому в Google на помощь пришёл альтернативный интернет.
Проект Mirror Dimension представляет собой масштабную, разнообразную, но полностью изолированную веб-экосистему, которая находится под полным контролем инженеров Chrome. Она включает в себя множество сайтов и платформ — от социальных сетей и интенет-магазинов до банковских интерфейсов, — созданных с использованием всех компонентов и атрибутов реальных веб-ресурсов. ИИ-агенты взаимодействуют с этими сайтами и выполняют задачи в Chrome точно так же, как делали бы это в настоящем интернете. В процессе работы они подвергаются и проверкам на устойчивость — например, сталкиваются со скрытыми попытками инъекций в запросах, что помогает оценить надёжность их защиты.

«ИИ-агенты не программируются [алгоритмически}, и предусмотреть всё, с чем они могут столкнуться, невозможно. Пространство для исследования здесь колоссально, а интернет — среда враждебная. Любой пользователь может ввести на любом сайте любой запрос, поэтому нам необходимо тщательно изучить это пространство. Мы уже видим, что агент начинает проявлять зрелую рассудительность — понимает, какая именно информация требуется для выполнения задачи, и когда стоит обратиться к пользователю за подтверждением», — пояснили в Google.
Создание и наполнение Mirror Dimension оказалось непростой задачей. Среда должна была быть достаточно обширной и разнообразной, чтобы отражать масштаб реального интернета, и разработать эту среду было необходимо в сжатые сроки. Чтобы построить её, инженеры Chrome задействовали целые армии агентов — разработчиков сайтов и приложений под управлением специализированной ИИ-системы. Они оперативно создавали реалистичные веб-сервисы и потоки данных — вплоть до таких деталей как ввод промокодов в интернет-магазине и наполнение страниц в соцсетях.
Среда находится под контролем Google, но браузер Chrome располагает множеством средств защиты пользователей и проверок подлинности. Чтобы ИИ-агенты работали в настоящем Chrome, а это критически важно для качественного обучения, инженерам пришлось, по сути, взломать браузер. Они выпустили поддельные веб-сертификаты для прохождения проверок, чтобы ИИ-агенты функционировали в максимально приближенных к реальности условиях. В отношении обычных пользователей, подчеркнули инженеры Google, такие атаки невозможны: их удалось реализовать при наличии полного контроля над средой и сетью.
Тестируемые в Google ИИ-агенты для браузера Chrome безобидны и не обладают средствами для проведения атак. Теперь инженеры хотят сделать экосистему Mirror Dimension доступной другим отделам Google, чтобы в этой контролируемой среде могли тестироваться и другие продукты.