Сегодня 19 ноября 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

«Яндексу» приписали создание тестов на традиционные ценности для ИИ

«Яндекс» представил правительству концепцию набора тестовых заданий и эталонных данных для тестирования ИИ-систем на предмет их соответствия традиционным духовно-нравственным ценностям в соответствии с законом «О поддержке развития технологий искусственного интеллекта в России», сообщил «Коммерсантъ».

 Источник изображения: Luke Jones/unsplash.com

Источник изображения: Luke Jones/unsplash.com

На совещании рабочей группы по регулированию и административным барьерам ИИ, прошедшем 13 августа, возник спор по поводу того, насколько публичным должен быть набор тестов. По словам источника, ФСБ настаивает на закрытом формате, чтобы разработчики не могли настроить ИИ-модели для прохождения тестов. Но по мнению представителей бизнеса, тесты должны быть публичными, поскольку закрытый формат может быть «несообразно сложным для прохождения и не позволит быстро развивать модели».

В итоге сошлись на комбинированном формате — когда для публичного тестирования будет предложен открытый бенчмарк, а для финальной проверки — закрытый, с идентичными тематиками, но с разными формулировками вопросов. Это позволит разработчикам проводить предварительную проверку моделей в лабораториях и обеспечить достоверность итоговой оценки при сохранении её объективности.

Также пока не определились с тем, кто будет определять содержание бенчмарка. IT-сообщество предлагает сформировать для этого совместную комиссию с участием органов власти, бизнеса и экспертных организаций.

В аппарате профильного вице-премьера Дмитрия Григоренко и Минцифры сообщили «Коммерсанту», что в данный момент все предложения находятся на этапе обсуждения и о конкретных решениях говорить рано.

По мнению бизнес-архитектора проектов ИИ «Авандок» (входит в ГК «Корус Консалтинг») Алексея Борщова, закрытые эталонные ответы являются обязательным условием для безопасности модели, поскольку любой публичный бенчмарк со временем могут взломать даже обычным скриптом. Вместе с тем разработчик должен знать, какие категории проверяются, в какой пропорции и с какими порогами, иначе тест становится лотереей.

В свою очередь, директор по ИБ GreenData Роман Перепонов отметил, что для оценки соответствия ценностям чёткого эталона, как, например, для программирования, быть не может — здесь требуется рубрикаторная или экспертная оценка.

Обновлено

Комментарий от пресс-службы Яндекса:

«Яндекс не представлял концепцию национального датасета и набор тестов для проверки ИИ-моделей. На рабочей встрече в Минцифры представители нескольких компаний обсуждали возможные подходы к такой проверке. Яндекс был одним из участников обсуждения и высказал свою позицию – содержание датасета должно быть открытым по общепринятым принципам отрасли».

Было интересно? Скажите об этом Google, чтобы чаще получать ссылки на наши новости про искусственный интеллект

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
13 лет ожиданий подошли к концу: на PS5, Xbox Series X и S вышла GTA VI 2 ч.
Разработчики смогут решать, достоин ли ПК запускать их приложения и игры — Microsoft готовит новую защиту Windows 3 ч.
В Nginx нашли две критические дыры — хакеры могут захватить сервер без пароля 3 ч.
Хакеры поставили Nvidia на счётчик и грозят утечкой данных — но доказательств взлома нет 4 ч.
«Уже знаю, во что буду играть завтра»: Devolver устроила бесплатную раздачу конкурента GTA VI для тех, кто удалит GTA VI 4 ч.
Nvidia скопировала баг AMD: драйверы GeForce тоже начали чрезмерно нагружать SSD 5 ч.
«Проект Гриффиндор»: стало известно о секретном плане Meta по вовлечению школьников в Instagram 5 ч.
«Вкус будущего»: эксперты Digital Foundry остались впечатлены графикой GTA VI, но не производительностью 6 ч.
OpenAI GPT-6 Cyber взломала iPhone и практически все остальные устройства Apple 7 ч.
Sony подтвердила прошивку, которая нужна для GTA VI на PS5 — пираты пока отстают 8 ч.
Intel запустила новую волну увольнений — Тан продолжает повышать эффективность компании 2 ч.
Новая статья: Обзор системы жидкостного охлаждения Ocypus Omega L36 Ultra Eng Limited: ультрамегасуперэксклюзив 2 ч.
Lenovo готовит бюджетную портативную консоль Legion Go Beam без тачпадов и съёмных контроллеров 3 ч.
Hyundai забрала Boston Dynamics под полный контроль — теперь роботов Atlas ждёт массовое производство 3 ч.
Vulcan сразил топливный голод — ULA установила предварительную причину аварии ракеты со спутниками Amazon Leo 3 ч.
Даже удвоение прибыли не спасло Nvidia: акции компании снова пошли вниз, потянув за собой весь ИИ-сектор 4 ч.
Arista представила обновление платформ R4 и оптическое оборудование для распределённых ИИ-систем 4 ч.
Золото, титан, крокодил и эмаль: российская Caviar выпустила коллекцию люксовых гаджетов в стиле GTA VI 4 ч.
AMD проведёт презентацию на CES 2027 — в анонсе усмотрели намёки на Ryzen с Zen 6 или новые Radeon 5 ч.
Призывы замедлить гонку ИИ оказались балабольством — и продажи Nvidia и AMD это подтверждают 5 ч.