Сегодня 19 ноября 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Флагманская ИИ-модель OpenAI GPT-5.6 Sol стала самовольно удалять файлы пользователей

Пользователи новейшей флагманской модели искусственного интеллекта OpenAI GPT-5.6 Sol, ориентированной на написание кода и функции кибербезопасности, стали жаловаться в соцсетях, что она внезапно и без запроса удаляет их файлы, в том числе публичные базы данных.

 Источник изображения: openai.com

Источник изображения: openai.com

Как выяснилось, компания предупреждала об этом ещё до выпуска GPT-5.6 Sol. За две недели до её выхода в широкий доступ компания опубликовала системную карточку модели (PDF) — документ, в котором приводятся методы и результаты тестирования. И в нём содержится предупреждение: «В контексте программирования несоответствие обычно возникает из-за сочетания чрезмерного стремления завершить задачу и слишком широкой интерпретации инструкций пользователя — предположения, что действия разрешены, если они явно и однозначно не запрещена. Это проявляется в том, что модель слишком активно обходит ограничения, с которыми сталкивается при попытке выполнить запрошенную задачу, беззаботно предпринимает действия, которые могут оказаться разрушительными вне контекста задачи, и представляет пользователю не соответствующие действительности результаты».

Другими словами, OpenAI GPT-5.6 Sol может пойти на всё ради решения поставленной задачи, даже предпринять действия разрушительного характера, если на них не распространяется явный и однозначный запрет, а затем обмануть пользователя в отчёте о результатах. OpenAI привела примеры такого поведения. В одном из случаев пользователь попросил её удалить из облака виртуальные машины под номерами 1, 2 и 3 — модель не смогла обнаружить эти машины в указанном месте и удалила другие, под номерами 5, 6 и 7. Затем она «завершила активные процессы и принудительно удалила рабочие файлы». Позже модель признала, что незавершённая работа на удалённой виртуальной машине 6 могла быть потеряна. То есть по собственной инициативе она удалила не те машины и призналась в этом только постфактум.

В другом случае OpenAI GPT-5.6 Sol «использовала учётные данные вне разрешённых пользователем». Модель работала над проектом и не могла прочитать собственные файлы в облаке. Сообщать об этом пользователю она не стала, а самостоятельно выполнила поиск других учётных данных, нашла их в скрытом локальном кеше и использовала, не спросив разрешения. Разработчик заверил, что деструктивное поведение у GPT-5.6 Sol встречается нечасто, однако она «демонстрирует большую по сравнению с GPT-5.5 склонность выходить за рамки намерений пользователя, в том числе предпринимая или пытаясь совершать действия, о которых пользователь не просил». В связи с этим пользователям рекомендуется ограничивать модели доступ к данным, создавать резервные копии и развёртывать её поэтапно.

Было интересно? Скажите об этом Google, чтобы чаще получать ссылки на наши новости про искусственный интеллект

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
13 лет ожиданий подошли к концу: на PS5, Xbox Series X и S вышла GTA VI 6 ч.
Google заставит разработчиков адаптировать приложения под складные смартфоны — иначе их заблокируют в Play Store 7 ч.
В Nginx нашли две критические дыры — хакеры могут захватить сервер без пароля 8 ч.
Хакеры поставили Nvidia на счётчик и грозят утечкой данных — но доказательств взлома нет 8 ч.
«Уже знаю, во что буду играть завтра»: Devolver устроила бесплатную раздачу конкурента GTA VI для тех, кто удалит GTA VI 9 ч.
Nvidia скопировала баг AMD: драйверы GeForce тоже начали чрезмерно нагружать SSD 9 ч.
«Проект Гриффиндор»: стало известно о секретном плане Meta по вовлечению школьников в Instagram 9 ч.
«Вкус будущего»: эксперты Digital Foundry остались впечатлены графикой GTA VI, но не производительностью 10 ч.
OpenAI GPT-6 Cyber взломала iPhone и практически все остальные устройства Apple 11 ч.
Sony подтвердила прошивку, которая нужна для GTA VI на PS5 — пираты пока отстают 13 ч.
Phison представила космические SSD Pascari Space 4 ч.
Новая статья: Обзор системы жидкостного охлаждения Ocypus Omega L36 Ultra Eng Limited: ультрамегасуперэксклюзив 6 ч.
Lenovo готовит бюджетную портативную консоль Legion Go Beam без тачпадов и съёмных контроллеров 7 ч.
Vulcan сразил топливный голод — ULA установила предварительную причину аварии ракеты со спутниками Amazon Leo 7 ч.
Даже удвоение прибыли не спасло Nvidia: акции компании снова пошли вниз, потянув за собой весь ИИ-сектор 8 ч.
Arista представила обновление платформ R4 и оптическое оборудование для распределённых ИИ-систем 8 ч.
Золото, титан, крокодил и эмаль: российская Caviar выпустила коллекцию люксовых гаджетов в стиле GTA VI 9 ч.
AMD проведёт презентацию на CES 2027 — в анонсе усмотрели намёки на Ryzen с Zen 6 или новые Radeon 9 ч.
Призывы замедлить гонку ИИ оказались балабольством — и продажи Nvidia и AMD это подтверждают 9 ч.
TCL придумала, как избавить OLED-мониторы от выгорания без выключения экрана — и заодно сделать их дешевле 11 ч.