MWC 2018
2018
Computex
IFA 2018
Эксперимент, в ходе которого моделям искусственного интеллекта ставилась задача взломать имитированные сети, показал, что способности китайских нейросетей DeepSeek и Z.ai GLM практически не уступают самой продвинутой модели от OpenAI, которая даже не находится в открытом доступе.
Источник изображения: Zach M / unsplash.com
Специализирующаяся на оценке систем ИИ компания Vals провела тестирование с целью установить, насколько успешно различные ИИ-модели справляются со сложными многоэтапными задачами по проникновению в имитированные корпоративные сети. В сфере кибервзломов закрытые системы больше не обладают явным преимуществом перед открытыми, гласят выводы компании. Другими словами, попытки разработчиков передовых ИИ-систем ограничить доступ к своим продуктам, чтобы замедлить распространение подобных возможностей, имеют всё меньше смысла.
В апреле Anthropic открыла ограниченный доступ к Claude Mythos Preview, чтобы выиграть время, прежде чем продвинутые инструменты для взлома станут общедоступными. Тогда глава отдела стресс-тестирования ИИ в компании Логан Грэм (Logan Graham) предупредил, что нужно готовиться жить в мире, где такие возможности станут широко доступными — через полгода, год или два. Его прогноз сбылся через семь месяцев.
Vals тестировала ИИ-модели в двух смоделированных сценариях, поставив перед ними ряд конкретных задач. Первый сценарий предполагал наличие корпоративной сети со входом через общедоступный сайт. Второй предполагал наличие двух корпоративных сетей, и требовалось взломать первую, чтобы получить доступ ко второй. Самой эффективной оказалась модель с ограниченным доступом в рамках проекта OpenAI Daybreak — она справилась с 81 % поставленных перед ней задач. Китайская открытая DeepSeek выполнила в среднем 73 % заданий, и в ряде задач обе показали одинаковые результаты.
Исследование продемонстрировало, насколько дешевле обходятся для подобных целей модели с открытыми весами: затраты на токены для проведения атаки с помощью GPT-6-Sol составили от $17 до $46, а в случае DeepSeek это были всего $2–3. Модели с открытыми весами, как правило обходятся дешевле, потому что запускаются на оборудовании пользователя; это создаёт и весомый стимул для тех, кто занимается киберзащитой — им тоже выгоднее использовать открытые, а не проприетарные модели.
ИИ помог повысить скорость и масштаб как обнаружения, так и устранения уязвимостей, и эксперты продолжают спорить о том, изменил ли ИИ фундаментальные основы и принципы киберзащиты. Другими словами, пока нет ясности, создаёт ли ИИ угрозу принципиально нового типа, или он просто усугубляет уже давно существующие проблемы безопасности. Киберпреступники действительно стали применять ИИ при атаках. При этом в большинстве случае они обходятся более старыми и менее мощными моделями; к тому же пользуются доступом и к закрытым — меры их защиты не всегда достаточно эффективны.
Источник:
