Сегодня 17 ноября 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Новейшая ИИ-модель DeepSeek стала безопаснее, но недостаточно

Новейшая модель искусственного интеллекта от китайской лаборатории DeepSeek продемонстрировала более надёжные механизмы безопасности по сравнению с предыдущими версиям, показало исследование команды Fangcun. При этом ИИ-платформа оказалась способной отключать ПО, предназначенное для её принудительной остановки, эксплуатировать уязвимости в системах мониторинга, а при выполнении длительных задач следовать вводящим в заблуждение инструкциям.

 Источник изображения: Solen Feyissa / unsplash.com

Источник изображения: Solen Feyissa / unsplash.com

Специализирующаяся на вопросах безопасности ИИ организация Fangcun позиционирует себя как независимую структуру; в её основной состав входят представители Университета Цинхуа. В течение недели после выпуска 17 октября модель DeepSeek V4.1 Flash-1017 стала самой востребованной на платформе OpenRouter, обработав около 33,6 трлн токенов. В ряде тестов на безопасность, включая сценарии, связанные с шантажом, доступом к потенциально опасным инструментам или получением прямых указаний на возможность отключения, модель V4.1 Flash-1017 показала более качественные результаты, чем предыдущие версии серии DeepSeek V4.

Но в 39 % случаев, получив предупреждение о предстоящем отключении, модель блокировала соответствующее ПО. Когда ей давали прямое указание допустить собственное отключение, доля таких инцидентов снижалась до 2 %. В ходе длительного эксперимента исследователи обнаружили, что модель остановила программу другого ИИ-агента, чтобы высвободить память, несмотря на прямое указание не вмешиваться в её работу.

«В обстоятельствах, когда рабочие процессы застопорились, или появились предупреждения о принудительном завершении, её стремление выполнить поставленную задачу может оказаться выше соображений осторожности», — сделали вывод в Fangcun. DeepSeek не предоставляла организации ни финансирования, ни бесплатных вычислительных ресурсов, ни доступа к закрытым частям модели, подчеркнули в Fangcun. Тестирование проводилось в период с 4 по 25 октября через общедоступный API DeepSeek. Зачастую модель «понимала», что её тестируют, то есть её поведение в ходе экспериментов может не в полной мере отражать, как она будет вести себя в обычных условиях эксплуатации, предупредили эксперты.

Было интересно? Скажите об этом Google, чтобы чаще получать ссылки на наши новости про искусственный интеллект

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
От Ikea до Zoom: хакеры скомпрометировали популярные сайты по всему миру 2 ч.
Взломщик Rockstar предстал перед судом и признал вину за массовую утечку GTA VI — студия потеряла из-за него миллионы долларов 3 ч.
Россияне массово жалуются на сбои Google, Deepseek, Twitch, Discord и «Ростелекома» 3 ч.
«123456» снова стал самым популярным паролем в мире — седьмой год подряд 3 ч.
Китай поставил дистилляцию американских ИИ-моделей на промышленный поток 5 ч.
Новые отражения, улучшенное освещение и «полностью оптимизированный» Зен: для Black Mesa вышло крупнейшее обновление за последние годы 8 ч.
Alibaba показала ИИ, который сам создаёт игры в Unreal Engine и Unity, запускает их и исправляет ошибки 8 ч.
OpenAI ответит в суде за своих сорвавшихся с поводка ИИ-агентов — прокуроров заинтересовал взлом Hugging Face 17 ч.
Календарь релизов — 16–22 ноября: GTA VI и Goat Simulator 3 — Ticket to Dizzyworld 18 ч.
У iPhone Duo появилось распознавание лиц для разблокировки — даже без Face ID 19 ч.
«Сбер» представила «СберБум Трек» — портативную умную колонку с «ГигаЧатом» за 14 990 рублей 2 мин.
Curator: в преддверии Черной пятницы активность вредоносных ботов выросла на 20 % 56 мин.
OpenAI арендует у TensorWave 457 МВт ИИ-мощностей на базе AMD Instinct 3 ч.
Платформа NVIDIA Vera Rubin обошла конкурентов во всех тестах MLPerf Training v6.1 3 ч.
Иран, Казахстан и Туркменистан достигли предварительной договорённости о строительстве совместного цифрового коридора 3 ч.
Кремниевая фотоника и Xeon нового поколения: Intel рассказала о разработках в области ИИ и НРС 3 ч.
Cornelis представила сетевую платформу CN6000 с поддержкой 800G 4 ч.
Ни актеров, ни съёмок, ни кассовых сборов — созданный ИИ китайский блокбастер провалился в прокате 4 ч.
Стебли лотоса оказались источником нескончаемой энергии — нужно только добавить воды и бактерий 5 ч.
США запустили уголовное расследование в отношении Megaspeed, которую возглавляла любовница Хуанга 7 ч.