Сегодня 19 ноября 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

У ИИ-модели OpenAI GPT-5.6 Sol нашли такие же уязвимости, как у Fable 5

Британский Институт безопасности ИИ (AISI) объявил, что недавно анонсированная OpenAI ИИ-модель GPT-5.6 Sol имеет такие же уязвимости в системе безопасности, как у Fable 5 от Anthropic, доступ к которой из-за этого был заблокирован для всех иностранцев по требованию властей США.

 Источник изображения: Andrew Neel/unsplash.com

Источник изображения: Andrew Neel/unsplash.com

Хотя OpenAI позиционирует модель GPT-5.6 Sol, как самую безопасную на сегодняшний день, британские правительственные исследователи, тестировавшие её перед выпуском, утверждают, что её механизмы защиты уязвимы для взлома.

Как сообщает AISI, им были выявлены «универсальные уязвимости в киберпространстве, включая уязвимости, позволяющие выполнять длительные задачи в таких областях, как обнаружение уязвимостей и разработка эксплойтов». Другими словами, исследователи взломали GPT-5.6 и заставили её игнорировать механизмы защиты, предназначенные для предотвращения кибератак. После этого они смогли заставить модель находить уязвимости программного обеспечения и автономно взламывать системы.

В свою очередь, OpenAI сообщила, что предоставила исследователям из британского AISI привилегированный доступ к внутренним механизмам системы, и это позволило им ускорить процесс взлома, хотя обычному пользователю вряд ли удалось бы легко воспроизвести этот подход. OpenAI заявила, что работала над «воспроизведением и устранением конкретных взломанных систем, о которых сообщил британский AISI».

Комментируя результаты исследования AISI, OpenAI сослалась на блог, посвящённый запуску GPT-5.6, в котором она признала, что «идеальной безопасности не существует» и что «будут обнаружены новые уязвимости, а также новые взломанные системы, которые обходят существующие меры защиты». Компания сообщила, что применяет «многоуровневый» подход к защите, включающий непрерывный мониторинг реакции моделей и процесс «быстрого устранения» любых обнаруженных взломов.

В AISI также сообщили, что джейлбрейк, обнаруженный в GPT-5.6, потенциально более серьёзен, чем тот, который был обнаружен в Fable. Исследователи охарактеризовали его как «универсальный», позволяющий производить автономные эксплойты, а не просто выявлять уязвимости в программном обеспечении.

«В настоящее время практически каждая используемая модель имеет необнаруженные уязвимости, поэтому, к сожалению, это относится ко всему, а не только к GPT-5.6», — отметил Станислав Форт (Stanislav Fort), старший научный сотрудник стартапа AISLE, специализирующегося в сфере безопасности.

На данный момент не существует способа создания надёжных механизмов защиты, поэтому большинство компаний в сфере ИИ, используют различные методы для предотвращения попыток пользователей подталкивать модели к рискованным действиям. К ним относится защита с помощью классификаторов — небольших моделей, которые фильтруют и блокируют подозрительные запросы.

Было интересно? Скажите об этом Google, чтобы чаще получать ссылки на наши новости про искусственный интеллект

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
13 лет ожиданий подошли к концу: на PS5, Xbox Series X и S вышла GTA VI 2 ч.
Разработчики смогут решать, достоин ли ПК запускать их приложения и игры — Microsoft готовит новую защиту Windows 3 ч.
В Nginx нашли две критические дыры — хакеры могут захватить сервер без пароля 3 ч.
Хакеры поставили Nvidia на счётчик и грозят утечкой данных — но доказательств взлома нет 3 ч.
«Уже знаю, во что буду играть завтра»: Devolver устроила бесплатную раздачу конкурента GTA VI для тех, кто удалит GTA VI 4 ч.
Nvidia скопировала баг AMD: драйверы GeForce тоже начали чрезмерно нагружать SSD 5 ч.
«Проект Гриффиндор»: стало известно о секретном плане Meta по вовлечению школьников в Instagram 5 ч.
«Вкус будущего»: эксперты Digital Foundry остались впечатлены графикой GTA VI, но не производительностью 6 ч.
OpenAI GPT-6 Cyber взломала iPhone и практически все остальные устройства Apple 7 ч.
Sony подтвердила прошивку, которая нужна для GTA VI на PS5 — пираты пока отстают 8 ч.
Intel запустила новую волну увольнений — Тан продолжает повышать эффективность компании 60 мин.
Новая статья: Обзор системы жидкостного охлаждения Ocypus Omega L36 Ultra Eng Limited: ультрамегасуперэксклюзив 2 ч.
Lenovo готовит бюджетную портативную консоль Legion Go Beam без тачпадов и съёмных контроллеров 2 ч.
Hyundai забрала Boston Dynamics под полный контроль — теперь роботов Atlas ждёт массовое производство 2 ч.
Vulcan сразил топливный голод — ULA установила предварительную причину аварии ракеты со спутниками Amazon Leo 3 ч.
Даже удвоение прибыли не спасло Nvidia: акции компании снова пошли вниз, потянув за собой весь ИИ-сектор 4 ч.
Arista представила обновление платформ R4 и оптическое оборудование для распределённых ИИ-систем 4 ч.
Золото, титан, крокодил и эмаль: российская Caviar выпустила коллекцию люксовых гаджетов в стиле GTA VI 4 ч.
AMD проведёт презентацию на CES 2027 — в анонсе усмотрели намёки на Ryzen с Zen 6 или новые Radeon 5 ч.
Призывы замедлить гонку ИИ оказались балабольством — и продажи Nvidia и AMD это подтверждают 5 ч.