Пользователи Anthropic Claude и OpenAI Codex столкнулись с ограничениями при попытках применить ИИ для реверс-инжиринга. Защитные механизмы начали блокировать также декомпиляцию ПО, а в отдельных случаях происходила блокировка аккаунтов. Под ограничения попали даже проекты, связанные с модификацией устройств, принадлежащих самим пользователям.
По данным 404 Media, несколько пользователей Claude Code сообщили о срабатывании механизмов безопасности, которые препятствовали обратной разработке программ, а в сообществе Reverse Engineer Anything на Reddit появилась публикация с заголовком «Мечта умерла», автор которой заявил, что использовать Claude для подобных задач, вероятно, больше не получится. Другие участники Discord-сообщества также подтвердили, что сервис отказывается декомпилировать софт.
Аналогичные проблемы возникли у пользователей Codex. Один из них сообщил, что OpenAI заблокировала его аккаунт после обратного инжениринга ПО для телевизоров Samsung, сославшись на нарушение правил о злоупотреблениях в сфере кибербезопасности.
Интерес к этому направлению вырос благодаря бесплатному проекту с открытым исходным кодом Reverse Engineer Anything, который позволяет применять ИИ для анализа электроники и замены заводского программного обеспечения на открытые или созданные с помощью ИИ альтернативного ПО. Пользователи устанавливали новые операционные системы на умные телевизоры, превращали их в ИИ-помощников, восстанавливали устройства Интернета вещей, которые производители перестали поддерживать, и обновляли ПО старой электроники. Кроме того в последнее время стала очень популярна декомпиляция игр и игрового ПО с помощью ИИ, благодаря чему пользователи смогли взломать PlayStation 5 и Nintendo Switch 2, а также перенести множество консольных игр на ПК.
404 Media также обращает внимание на противоречие в политике крупных ИИ-компаний. В частности, технологические корпорации защищают интересы производителей электроники, ограничивая использование ИИ для обратного проектирования. При этом сбор огромных массивов материалов из интернета для обучения собственных моделей не вызывает у крупных компаний аналогичного отношения к вопросам авторских прав.
Представитель OpenAI Тарун Гогинени (Tarun Gogineni) заявил, что блокировки аккаунтов за обратное проектирование не должны происходить. По его словам, большинство таких ограничений возникает случайно из-за сложности настройки защитных механизмов ИИ, а сам Codex не запрещает подобную деятельность. Гогинени добавил, что проблему решают.
Однако некоторые специалисты уже предпочитают переходить на альтернативные модели, опасаясь внезапных изменений правил. Мэтт Браун (Matt Brown), главный консультант Brown Fine Security, рассказал 404 Media, что блокировки реверс-инжиринга практически полностью совпадают со срабатыванием фильтров категории кибербезопасности.
По его мнению, разработчики в своём стремлении предотвратить использование ИИ для взломов, накладывают чрезмерно строгие ограничения, что мешает законным исследованиям. Браун намерен инвестировать в оборудование и локальные модели с открытыми весами, которые становятся всё умнее, в том числе благодаря разработкам китайских компаний.