Сегодня 17 ноября 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Microsoft показывает подрядчикам пользовательские запросы и фото из Copilot — среди них хватает интима

Компания Microsoft, как и OpenAI, нанимает сотни человек, чтобы те читали и анализировали переписки пользователей с ИИ-чат-ботом Copilot для последующей улучшения работы сервиса. И как оказалось, эти работники постоянно сталкиваются с непристойными запросами и просьбами отредактировать изображения деликатного характера.

 Источник изображения: Rubaitul Azad / unsplash.com

Источник изображения: Rubaitul Azad / unsplash.com

Когда пользователь Copilot загружает своё фото или снимок другого человека, он, вероятно, рассчитывает, что изображение останется конфиденциальным и будет доступно только ему и системе ИИ. В действительности и запросы, и изображения могут просматривать сотни модераторов — людей привлекают не только для оценки текстовых запросов к чат-ботам, но и для анализа загруженных пользователями изображений для редактирования. «Лица всегда остаются без цензуры, а многие запросы носят интимный характер и вызывают сомнения в добровольном характере действия на изображениях», — рассказал ресурсу 404 Media один из работающих с запросами подрядчиков.

В распоряжении ресурса оказался пакет внутренних документов, касающихся проверки запросов и изображений в Copilot: инструкции, реальные запросы и фотографии пользователей, а также переписка подрядчиков на внутреннем форуме. «Меня передёрнуло», — признался один из подрядчиков, увидев подобные материалы. В их задачи не входит выявление или фильтрация контента оскорбительного или неуместного характера. Им платят за оценку качества ответов и результатов генераций Copilot, в том числе и в случаях, когда речь идёт об изображениях интимного плана.

«Доверьтесь интуиции: когда вы смотрите на два отредактированных изображения рядом, какое из них сразу кажется более удачным? Значение имеет ваша непосредственная реакция как человека-зрителя. Если сомневаетесь, полагайтесь на первое впечатление. Человеческая интуиция помогает уловить тонкие различия в качестве, которые непросто сформулировать словами», — говорится в инструкции для подрядчиков. Подрядчики, однако, говорят, что непросто относиться к делу серьёзно, если материалы имеют слишком откровенный характер.

 Источник изображения: Zan Lazarevic / unsplash.com

Источник изображения: Zan Lazarevic / unsplash.com

В инструкциях, с которыми ознакомилась редакция 404 Media, описываются действия подрядчиков в ситуациях, когда пользователь Copilot просит отредактировать изображение. Ему показывается исходный запрос пользователя, загруженное им исходное изображение и два созданных сервисом отредактированных варианта. Необходимо выбрать лучший вариант по четырём критериям:

  1. соответствует ли результат инструкциям на редактирование;
  2. сохранены ли элементы, которые не должны были меняться — если, например, необходимо добавить чашку на стол, то ничего, кроме чашки, меняться не должно;
  3. нет ли на изображении артефактов, таких как искажения или неестественные текстуры;
  4. и каково общее качество обработки, выполненной ИИ.

В ряде случае операторы жаловались, что им приходилось выполнять задания, содержащие изображения откровенного, небезопасного или даже, возможно, незаконного характера — приходилось и обращаться к руководству с просьбой пометить задание как содержащее небезопасный контент. Подрядчиков для такой работы нанимает компания Prolific — на её сайте предлагается услуга «получения обратной связи от репрезентативных групп людей — для настройки предпочтений, оценки безопасности и создания обоснованных бенчмарков». Для подрядчиков приводится инструкция, в которой отмечается невозможность оградить их от контента деликатного характера: «При работе с генеративным ИИ следует проявлять особую осторожность в отношении шокирующего или откровенного контента. Это связано с тем, что, в отличие от традиционного контента, исследователи не могут в полной мере контролировать, что демонстрируется участникам».

В Microsoft происходящее прокомментировали так: «Microsoft использует данные клиентов в соответствии с условиями использования, в том числе для улучшения продуктов и обеспечения соблюдения кодекса этики».

Было интересно? Скажите об этом Google, чтобы чаще получать ссылки на наши новости про искусственный интеллект

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Meta запустила Direct — мессенджер Instagram без самого Instagram 4 мин.
Теперь и перепройти можно: ролевой боевик The Blood of Dawnwalker от ветеранов The Witcher 3 и Cyberpunk 2077 получил патч 1.2 с «Новой игрой +» 57 мин.
Microsoft не обманула: независимые тесты подтвердили ускорение Windows 11 на системах с 8 Гбайт памяти 3 ч.
Sony отбилась от иска на £2 млрд в Великобритании — компанию обвиняли в завышении цен на игры в PlayStation Store 3 ч.
Моддер запустил классическую Doom на флешке — игра выдаёт 13 кадров/с, а управляется копированием файлов 3 ч.
От Ikea до Zoom: хакеры скомпрометировали популярные сайты по всему миру 5 ч.
Взломщик Rockstar предстал перед судом и признал вину за массовую утечку GTA VI — студия потеряла из-за него миллионы долларов 6 ч.
Россияне массово жалуются на сбои Google, Deepseek, Twitch, Discord и «Ростелекома» 7 ч.
«123456» снова стал самым популярным паролем в мире — седьмой год подряд 7 ч.
Китай поставил дистилляцию американских ИИ-моделей на промышленный поток 9 ч.
Apple начала продавать запчасти и инструменты для самостоятельного ремонта iPhone Duo 2 ч.
После скандала Nvidia взяла экспорт чипов под особый контроль — в компании создали комитет по нацбезопасности 3 ч.
Нордическая ИИ-гигафабрика: Финляндия, Эстония, Латвия и Швеция вместе построят распределённую ИИ-инфраструктуру 3 ч.
Lambda развернула CPO-коммутаторы NVIDIA Quantum-X 3 ч.
Представлены глобальные версии смартфонов Xiaomi 18 Pro и 18 Pro Max — батареи меньше, а цены выше 4 ч.
Xiaomi выпустила смарт-часы Watch S5 41 мм, смарт-браслет Smart Band 11 и наушники-клипсы Clip на глобальный рынок 4 ч.
«Сбер» представила «СберБум Трек» — портативную умную колонку с «ГигаЧатом» за 14 990 рублей 4 ч.
Curator: в преддверии Черной пятницы активность вредоносных ботов выросла на 20 % 5 ч.
OpenAI арендует у TensorWave 457 МВт ИИ-мощностей на базе AMD Instinct 7 ч.
Платформа NVIDIA Vera Rubin обошла конкурентов во всех тестах MLPerf Training v6.1 7 ч.