Сегодня 19 ноября 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

ИИ научился находить уязвимости в ПО, но для их исправления всё ещё нужны люди

Модели искусственного интеллекта доказали, что могут эффективно находить уязвимости ПО и эксплуатировать их, но не исправлять. На эту особенность обратили внимание эксперты лаборатории Off-by-1 компании 1Password — изучив механизмы работы моделей OpenAI ChatGPT 5.5 и Anthropic Claude Opus 4.8, они обнаружили, что без участия человека ИИ способен устранять уязвимости в ПО только в одном из четырёх случаев.

 Источник изображения: Fotis Fotopoulos / unsplash.com

Источник изображения: Fotis Fotopoulos / unsplash.com

«Для шести недавно обнаруженных уязвимостей мы выпустили 6080 патчей, используя две новейшие рассуждающие модели. Средний показатель успеха при создании патча, который полностью устраняет уязвимость (без существенного изменения поведения приложения), составил всего 26,0 %», — заявили исследователи. Из созданных ИИ патчей 20,1 % исправили исходную проблему, но изменили поведение приложения: например, логика «списка разрешённых» превратилась в логику «списка запрещённых»; в 2,3 % случаев при исправлении одной уязвимости возникла другая; в 49,3 % случаев ИИ не создал защиты ни от одного из вариантов эксплойта; а в 2,2 % случаев ИИ не только не исправил уязвимость, но и создал ещё один вариант для её эксплуатации.

Среди успешных патчей, даже если они изменяли поведение приложения, исправление уязвимости оказалось «хрупким»: конкретная уязвимость исчезала, но основную проблему решить не удавалось. Успех работы ИИ зависит от первоначальной установки — её требуется давать как ИИ, так и человеку, исправляющему уязвимость. Но если инструкции будут неверными, ИИ с большей вероятностью потерпит неудачу. Если запрос будет корректным, то ИИ справится с вероятностью 65 %; полное отсутствие запроса снижает вероятность успеха до 50,4 %, а некорректный запрос — до 15,2 %. У человека-разработчика при анализе уязвимого кода сохраняются высокие шансы выявить вводящую в заблуждение информацию.

В среднем создание корректного патча обходится всего в $6,74, включая затраты на неудачные попытки. Но при анализе затрат и выгод следует учитывать, какой объём экспертного надзора требуется, чтобы применение ИИ себя оправдывало.

Было интересно? Скажите об этом Google, чтобы чаще получать ссылки на наши новости про искусственный интеллект

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
13 лет ожиданий подошли к концу: на PS5, Xbox Series X и S вышла GTA VI 3 ч.
В Nginx нашли две критические дыры — хакеры могут захватить сервер без пароля 5 ч.
Хакеры поставили Nvidia на счётчик и грозят утечкой данных — но доказательств взлома нет 5 ч.
«Уже знаю, во что буду играть завтра»: Devolver устроила бесплатную раздачу конкурента GTA VI для тех, кто удалит GTA VI 6 ч.
Nvidia скопировала баг AMD: драйверы GeForce тоже начали чрезмерно нагружать SSD 6 ч.
«Проект Гриффиндор»: стало известно о секретном плане Meta по вовлечению школьников в Instagram 6 ч.
«Вкус будущего»: эксперты Digital Foundry остались впечатлены графикой GTA VI, но не производительностью 7 ч.
OpenAI GPT-6 Cyber взломала iPhone и практически все остальные устройства Apple 8 ч.
Sony подтвердила прошивку, которая нужна для GTA VI на PS5 — пираты пока отстают 10 ч.
Huawei похвасталась, что число пользователей HarmonyOS превысило 100 млн 10 ч.
Phison представила космические SSD Pascari Space 54 мин.
Intel запустила новую волну увольнений — Тан продолжает повышать эффективность компании 3 ч.
Новая статья: Обзор системы жидкостного охлаждения Ocypus Omega L36 Ultra Eng Limited: ультрамегасуперэксклюзив 3 ч.
Lenovo готовит бюджетную портативную консоль Legion Go Beam без тачпадов и съёмных контроллеров 4 ч.
Vulcan сразил топливный голод — ULA установила предварительную причину аварии ракеты со спутниками Amazon Leo 4 ч.
Даже удвоение прибыли не спасло Nvidia: акции компании снова пошли вниз, потянув за собой весь ИИ-сектор 5 ч.
Arista представила обновление платформ R4 и оптическое оборудование для распределённых ИИ-систем 5 ч.
Золото, титан, крокодил и эмаль: российская Caviar выпустила коллекцию люксовых гаджетов в стиле GTA VI 6 ч.
AMD проведёт презентацию на CES 2027 — в анонсе усмотрели намёки на Ryzen с Zen 6 или новые Radeon 6 ч.
Призывы замедлить гонку ИИ оказались балабольством — и продажи Nvidia и AMD это подтверждают 6 ч.