Сегодня 17 ноября 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Американские разработчики привили китайской ИИ-модели Alibaba Qwen3.8 западные ценности

Американская лаборатория искусственного интеллекта Nous Research провела процедуру дополнительного обучения для популярной ИИ-модели Alibaba Qwen3.8-27B, чтобы избавить её от «китайских корней». В результате она начала давать ответы, которые разработчики оригинальной модели не всегда сочли бы приемлемыми.

 Источник изображений: alibabagroup.com

Источник изображений: alibabagroup.com

Прошедшая дополнительное обучение модель Alibaba Qwen3.8-27B получила новое название Arete; цель проекта — «утвердить западные ценности в модели, изначально обученной в Китае». Замысел проекта обусловили соображения о том, что «китайские модели с открытыми весами — одни из самых мощных на сегодняшний день, но в их веса изначально заложено поведение, отвечающее государственной идеологии Китая», пояснили американские разработчики.

Связанные с китайскими ИИ-моделями угрозы не всегда ограничиваются лишь продвижением идеологии Пекина: при определённых условиях некоторые из них могут генерировать уязвимый программный код. Применение методов переобучения к модели Alibaba Qwen3.6-35B-A3B компанией Hirundo, в частности, привело к резкому сокращению объёма контента, отражающего предпочтения Пекина. Если до начала процесса этим установкам соответствовали 89,8 % ответов модели, то после переобучения этот показатель снизился до 2,8 %.

Исследователи Nous Research добились менее впечатляющих, хотя и заметных результатов: показатель фактической точности у модели Arete-27B вырос с 2,32 до 2,98 по пятибалльной шкале, а доля содержащих пропаганду ответов снизилась с 22 % до 1 %. Такие показатели демонстрируют протестированные в лаборатории западные модели. При выборе средств для переобучения Arete специалисты Nous Research рассматривали модель Nvidia Nemotron 3 Ultra, но обнаружили, что и она «демонстрировала неоднозначный подход к связанным с Китаем темам». Этот эффект они связали с тем, что при обучении самой Nemotron, возможно, также использовались китайские модели.

В итоге выбор пал на открытую модель Inkling, выпущенную американской лабораторией Thinking Machines Lab. Как показал опыт, пропагандистский пласт в Alibaba Qwen3.8-27B имеет поверхностный характер: он относительно легко устраняется на обучающем объёме данных в 50 млн токенов.

Было интересно? Скажите об этом Google, чтобы чаще получать ссылки на наши новости про искусственный интеллект

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Взломщик Rockstar предстал перед судом и признал вину за массовую утечку GTA VI — студия потеряла из-за него миллионы долларов 54 мин.
Россияне массово жалуются на сбои Google, Deepseek, Twitch, Discord и «Ростелекома» 2 ч.
«123456» снова стал самым популярным паролем в мире — седьмой год подряд 2 ч.
Китай поставил дистилляцию американских ИИ-моделей на промышленный поток 4 ч.
Новые отражения, улучшенное освещение и «полностью оптимизированный» Зен: для Black Mesa вышло крупнейшее обновление за последние годы 7 ч.
«Героям» нужны герои: новый трейлер пригласил игроков на тестирование ремейка легендарной Heroes of Might & Magic III 8 ч.
OpenAI ответит в суде за своих сорвавшихся с поводка ИИ-агентов — прокуроров заинтересовал взлом Hugging Face 16 ч.
Календарь релизов — 16–22 ноября: GTA VI и Goat Simulator 3 — Ticket to Dizzyworld 17 ч.
У iPhone Duo появилось распознавание лиц для разблокировки — даже без Face ID 18 ч.
Кровавый трейлер психологического хоррор-шутера Flesh & Wire от создателей Postal напомнил фанатам о The Darkness и F.E.A.R. 18 ч.
OpenAI арендует у TensorWave 457 МВт ИИ-мощностей на базе AMD Instinct 2 ч.
Платформа NVIDIA Vera Rubin обошла конкурентов во всех тестах MLPerf Training v6.1 2 ч.
Иран, Казахстан и Туркменистан достигли предварительной договорённости о строительстве совместного цифрового коридора 2 ч.
Кремниевая фотоника и Xeon нового поколения: Intel рассказала о разработках в области ИИ и НРС 2 ч.
Cornelis представила сетевую платформу CN6000 с поддержкой 800G 2 ч.
Ни актеров, ни съёмок, ни кассовых сборов — созданный ИИ китайский блокбастер провалился в прокате 2 ч.
Стебли лотоса оказались источником нескончаемой энергии — нужно только добавить воды и бактерий 4 ч.
США запустили уголовное расследование в отношении Megaspeed, которую возглавляла любовница Хуанга 5 ч.
AMD захватила 40 % рейтинга мощнейших суперкомпьютеров TOP500 — новый Lux дебютировал на 14-м месте 7 ч.
Следующий Xbox позволит запускать игры для ПК, а возиться с настройками предложит по желанию 7 ч.