Сегодня 17 ноября 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

«Честный знак» от Anthropic: компания придумала, как выявлять поддельные нейросети

Компания Anthropic ведёт разработку открытой системы для верификации того, какая именно модель искусственного интеллекта создала тот или иной результат. Проект под названием FlashProve призван обеспечить так называемый «доказуемый вывод» (provable inference). Речь идёт о криптографическом доказательстве и математической гарантии подлинности источника данных, которые позволят пользователям подтвердить, что они используют именно заявленную модель.

 Источник изображения: Anthropic

Источник изображения: Anthropic

По аналогии с криптографическими подписями электронных писем, FlashProve обеспечит защиту от попыток выдать одну модель за другую. Защита сохраняет эффективность даже в тех случаях, когда подмену пытается скрыть сама лаборатория, разработавшая и запустившая ИИ. В частности, исследователи отмечают, что технологию можно применять для предотвращения ситуаций, когда ИИ-компания тайно внедряет более дешёвую модель ради снижения издержек или более дорогую — для искусственного завышения результатов тестов производительности.

FlashProve также может применяться для верификации заявлений третьих лиц о том, что конкретная задача была решена с помощью передовых нейросетей. «Разработчик может утверждать, что его библиотека программного обеспечения была проверена на наличие уязвимостей передовой моделью кибербезопасности, или компания может заявить, что её бизнес-план был одобрен соответствующей моделью. [Но] как пользователь может проверить эти утверждения?», — пишут исследователи.

Для работы верификации ИИ-лаборатории должны публиковать «цифровой отпечаток» каждой выпускаемой модели, который впоследствии криптографически сопоставляется с конкретными ответами. Эти отпечатки не раскрывают веса моделей — внутренние числовые параметры, определяющие поведение ИИ, которые разработчики закрытых коммерческих систем, такие как Anthropic и OpenAI, держат в секрете. Соответственно, лаборатории смогут публиковать отпечатки без риска для интеллектуальной собственности. Система спроектирована как легковесная, что позволяет проводить проверку непосредственно на локальном устройстве пользователя.

На данный момент проект находится на стадии исследования, планов по немедленному внедрению технологии в Anthropic или других лабораториях нет. Подробная спецификация и рабочий код элементов системы опубликованы под открытой лицензией на GitHub.

«Эта исследовательская публикация предназначена для того, чтобы поделиться промежуточным прогрессом, а не завершённой программой исследований. Мы делимся этим явно с той целью, чтобы другие изучили то, что мы сделали, взяли это за основу и улучшили», — пояснили авторы проекта.

Было интересно? Скажите об этом Google, чтобы чаще получать ссылки на наши новости про искусственный интеллект

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
От Ikea до Zoom: хакеры скомпрометировали популярные сайты по всему миру 56 мин.
Взломщик Rockstar предстал перед судом и признал вину за массовую утечку GTA VI — студия потеряла из-за него миллионы долларов 2 ч.
Россияне массово жалуются на сбои Google, Deepseek, Twitch, Discord и «Ростелекома» 3 ч.
«123456» снова стал самым популярным паролем в мире — седьмой год подряд 3 ч.
Китай поставил дистилляцию американских ИИ-моделей на промышленный поток 5 ч.
Новые отражения, улучшенное освещение и «полностью оптимизированный» Зен: для Black Mesa вышло крупнейшее обновление за последние годы 8 ч.
Alibaba показала ИИ, который сам создаёт игры в Unreal Engine и Unity, запускает их и исправляет ошибки 8 ч.
OpenAI ответит в суде за своих сорвавшихся с поводка ИИ-агентов — прокуроров заинтересовал взлом Hugging Face 17 ч.
Календарь релизов — 16–22 ноября: GTA VI и Goat Simulator 3 — Ticket to Dizzyworld 18 ч.
У iPhone Duo появилось распознавание лиц для разблокировки — даже без Face ID 19 ч.
Curator: в преддверии Черной пятницы активность вредоносных ботов выросла на 20 % 44 мин.
OpenAI арендует у TensorWave 457 МВт ИИ-мощностей на базе AMD Instinct 3 ч.
Платформа NVIDIA Vera Rubin обошла конкурентов во всех тестах MLPerf Training v6.1 3 ч.
Иран, Казахстан и Туркменистан достигли предварительной договорённости о строительстве совместного цифрового коридора 3 ч.
Кремниевая фотоника и Xeon нового поколения: Intel рассказала о разработках в области ИИ и НРС 3 ч.
Cornelis представила сетевую платформу CN6000 с поддержкой 800G 3 ч.
Ни актеров, ни съёмок, ни кассовых сборов — созданный ИИ китайский блокбастер провалился в прокате 3 ч.
Стебли лотоса оказались источником нескончаемой энергии — нужно только добавить воды и бактерий 5 ч.
США запустили уголовное расследование в отношении Megaspeed, которую возглавляла любовница Хуанга 6 ч.
AMD захватила 40 % рейтинга мощнейших суперкомпьютеров TOP500 — новый Lux дебютировал на 14-м месте 8 ч.