Сегодня 17 ноября 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Microsoft установила ограничения для будущих ИИ-моделей, пока отрасль готовится к замедлению

Microsoft опубликовала предварительную версию кодекса, устанавливающего ряд ограничений для будущих ИИ-моделей компании. Это произошло через несколько дней после того, как OpenAI и Anthropic признали необходимость замедлить разработку передовых алгоритмов. Софтверный гигант стремится к тому, чтобы его воспринимали как ответственного игрока в сфере ИИ, где Microsoft является одним из крупных поставщиков облачных услуг.

«Мы получили отзывы от людей, которые хотели видеть ещё более явное обязательство того, что ИИ всегда работает на благо людей и не пытается заменить их. Мы увидели много отзывов о том, что ИИ не должен создавать зависимость, не должен льстить, что он всегда должен способствовать суждениям человека, автономии человека и свободе воли», — заявил глава ИИ-подразделения Microsoft Мустафа Сулейман (Mustafa Suleyman). Он также добавил, что Microsoft решила опубликовать предварительную версию кодекса именно сейчас из-за обострения дискуссии по поводу безопасности ИИ, но на деле эти рекомендации готовились около пяти месяцев.

Отраслевые специалисты и представители общественности стали более открыто выражать опасения по мере того, как ИИ-алгоритмы становятся всё более продвинутыми. Так на прошлой неделе исследователь из Anthropic Джейкоб Коксон (Jacob Coxon) ушёл в отставку, заявив, что его компания вместе с OpenAI «мчатся прямо к самосовершенствующемуся сверхразуму и играют с нашими жизнями».

Лидеры отрасли отреагировали на это. На выходных гендиректор Anthropic Дарио Амодеи (Dario Amodei) заявил, что недавний инцидент со взломом платформы Hugging Face вышедшими из-под контроля ИИ-агентами OpenAI отчасти убедил его в необходимости замедления темпов совершенствования нейросетей. Гендиректор OpenAI Сэм Альтман (Sam Altman) выразил поддержку в этом вопросе, а гендиректор SpaceX Илон Маск (Elon Musk) написал в соцсети X «Дарио прав». Позднее гендиректор Microsoft Сатья Наделла (Satya Nadella) заявил, что его компания поддерживает сосредоточенность и продуманный темп исследований. Американские законодатели также призвали к созданию более серьёзных гарантий безопасности в сфере ИИ.

 Источник изображения: BoliviaInteligente/unsplash.com

Источник изображения: BoliviaInteligente/unsplash.com

Согласно опубликованному Microsoft кодексу, ИИ-модели не должны отвечать на вопросы, связанные с производством оружия, помогать в приобретении опасных веществ, поощрять нездоровое питание, а также генерировать контент насильственного или откровенно сексуального характера. ИИ-модели Microsoft должны следовать целям людей и избегать создания собственных целей. Они также не должны пытаться скрывать собственно неподобающее поведение.

«Модели Microsoft не будут вмешиваться в цепочки рассуждений или код, а также искажать или скрывать свои рассуждения или следы действий. Они не общаются на языке нейросетей или с помощью каких-либо иных форм, выходящих за рамки простого человеческого понимания ни в цепочке своих рассуждений, ни с другими агентами или ИИ-системами», — говорится в документе Microsoft.

В дополнение к этому софтверный гигант планирует разработать правила, которые могли бы предотвратить кибератаки, подобные той, что осуществили ИИ-агенты OpenAI в отношении платформы Hugging Face. При составлении кодекса поведения Microsoft собирала фокус-группы, консультировалась с экспертами в области права, этики, лингвистики и философии. Публикуя предварительную версию документа, Microsoft стремится получить обратную связь перед утверждением окончательной версии кодекса, который будет регламентировать разработку ИИ-систем начиная с 2027 года.

Было интересно? Скажите об этом Google, чтобы чаще получать ссылки на наши новости про искусственный интеллект

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Японский суперкомпьютер Fugaku взломали через страницу мониторинга 7 мин.
Разработчики космического боевика Exodus в духе Mass Effect впервые показали женскую версию главного героя, и игроки в восторге 47 мин.
Meta запустила Direct — мессенджер Instagram без самого Instagram 52 мин.
Теперь и перепройти можно: ролевой боевик The Blood of Dawnwalker от ветеранов The Witcher 3 и Cyberpunk 2077 получил патч 1.2 с «Новой игрой +» 2 ч.
Microsoft не обманула: независимые тесты подтвердили ускорение Windows 11 на системах с 8 Гбайт памяти 3 ч.
Sony отбилась от иска на £2 млрд в Великобритании — компанию обвиняли в завышении цен на игры в PlayStation Store 4 ч.
Моддер запустил классическую Doom на флешке — игра выдаёт 13 кадров/с, а управляется копированием файлов 4 ч.
От Ikea до Zoom: хакеры скомпрометировали популярные сайты по всему миру 6 ч.
Взломщик Rockstar предстал перед судом и признал вину за массовую утечку GTA VI — студия потеряла из-за него миллионы долларов 7 ч.
Россияне массово жалуются на сбои Google, Deepseek, Twitch, Discord и «Ростелекома» 8 ч.
Дженсен Хуанг заявил, что для него «будет честью» вернуться на должность главы Nvidia 43 мин.
Хакерский карманный Linux-компьютер Flipper One стал доступен для заказа за $399 47 мин.
Ровер NASA Perseverance обнаружил на Марсе «призрачные» камни — на Земле такие прячут следы древней микробной жизни 49 мин.
Apple начала продавать запчасти и инструменты для самостоятельного ремонта iPhone Duo 3 ч.
После скандала Nvidia взяла экспорт чипов под особый контроль — в компании создали комитет по нацбезопасности 4 ч.
Нордическая ИИ-гигафабрика: Финляндия, Эстония, Латвия и Швеция вместе построят распределённую ИИ-инфраструктуру 4 ч.
Lambda развернула CPO-коммутаторы NVIDIA Quantum-X 4 ч.
Представлены глобальные версии смартфонов Xiaomi 18 Pro и 18 Pro Max — батареи меньше, а цены выше 4 ч.
Xiaomi выпустила смарт-часы Watch S5 41 мм, смарт-браслет Smart Band 11 и наушники-клипсы Clip на глобальный рынок 4 ч.
«Сбер» представила «СберБум Трек» — портативную умную колонку с «ГигаЧатом» за 14 990 рублей 5 ч.