Сегодня 19 ноября 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

OpenAI добавила ChatGPT режим блокировки для защиты от промпт-инъекций

Компания OpenAI представила новую функцию ИИ-чат-бота ChatGPT — режим блокировки (Lockdown Mode), который обеспечит дополнительную защиту от атак с использованием промпт-инъекций (Prompt Injection), когда на веб-страницах и в других источниках контента содержатся скрытые вредоносные инструкции, обманным путём заставляющие ИИ выполнять несанкционированные действия.

 Источник изображения: Mariia Shalabaieva/unsplash.com

Источник изображения: Mariia Shalabaieva/unsplash.com

Режим блокировки предназначен для снижения риска утечки данных в результате атак с использованием промпт-инъекций путём ограничения исходящих сетевых запросов за счёт отключения или ограничения некоторых функций. В частности, в режиме блокировки отключаются просмотр веб-страниц в реальном времени (доступ будет только к кешированному контенту), получение и отображение изображений из сети, углублённый поиск и режим агента.

Компания предупредила, что, хотя режим блокировки разработан для существенного снижения риска утечки данных в результате атак с использованием промпт-инъекций в ChatGPT и поддерживаемых продуктах OpenAI, он не гарантирует полной защиты от компрометации данных. Риск может сохраняться из-за включённых приложений. Кроме того, промпт-инъекции могут появляться в кешированном веб-контенте или в загруженных файлах и по-прежнему влиять на поведение модели или точность ответов.

OpenAI также уточнила, что режим блокировки предназначен не для всех: «Он разработан для людей и организаций, которые работают с конфиденциальными данными и хотят более строгой защиты от рисков утечки данных, связанных с внедрением запросов».

В настоящее время режим блокировки добавлен для учётных записей ChatGPT Business с самообслуживанием, а также для соответствующих личных аккаунтов, включая Free, Go, Plus и Pro.

Было интересно? Скажите об этом Google, чтобы чаще получать ссылки на наши новости про искусственный интеллект

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
ИИ-бум может захлебнуться в избытке чипов — Сэм Альтман предупредил, что OpenAI не сможет скупить всё 48 мин.
Sizable Energy намерена запитать ЦОД от морских гидроаккумуляторных энергохранилищ 56 мин.
Intel Foundry наконец заполучила крупного клиента — Microsoft доверила ей упаковку чипов Maia и Cobalt 2 ч.
OCTOPUS с Xeon 6 и квантовыми процессорами: Университет Осаки запустил академическую платформу SEAFOOD 2 ч.
Phison представила космические SSD Pascari Space 9 ч.
Intel запустила новую волну увольнений — Тан продолжает повышать эффективность компании 11 ч.
Новая статья: Обзор системы жидкостного охлаждения Ocypus Omega L36 Ultra Eng Limited: ультрамегасуперэксклюзив 11 ч.
Lenovo готовит бюджетную портативную консоль Legion Go Beam без тачпадов и съёмных контроллеров 12 ч.
Vulcan сразил топливный голод — ULA установила предварительную причину аварии ракеты со спутниками Amazon Leo 12 ч.
Инженеры угрожают новому руководству Nvidia увольнениями, если Хуанг не вернётся на пост гендира 13 ч.