Сегодня 02 июля 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Теги → mythos
Быстрый переход

Anthropic договорилась с США — запрет на ИИ-модель Fable 5 снят

По всей видимости, обещанные переговоры на протяжении минувших выходных оказались продуктивными, поскольку к середине текущей недели власти США действительно разрешили Anthropic снять экспортные ограничения на использование ИИ-модели Fable 5. За несколько дней до этого послабления были сделаны в отношении доступа к более мощной модели Mythos 5.

 Источник изображения: Anthropic

Источник изображения: Anthropic

Как поясняет Bloomberg, представители Anthropic о достижении прогресса в переговорах с американскими чиновниками сообщили на своей странице в социальной сети X. Экспортные ограничения на доступ к Fable 5 и Mythos 5 были сняты Министерством торговли США накануне, о чём ведомство сообщило компании. Сегодня Anthropic обещает начать процесс восстановления доступа к указанным моделям для пользователей. Компания поблагодарила пользователей за терпение, а также выразила признательность всем вовлечённым в процесс перезапуска моделей.

Как следует из направленного министром торговли США Говардом Лютником (Howard Lutnick) письма, Anthropic взяла на себя обязательства превентивно обнаруживать и нивелировать риски в области безопасности, связанные с этими моделями. Компания также согласилась взаимодействовать с правительством США в сфере разработки протоколов и стандартов, определяющих развитие будущих моделей. Fable 5 изначально была ориентирована на широкий доступ пользователей, она предусматривала ряд защитных механизмов, не позволяющих применять её в определённых целях, нежелательных с точки зрения общественной и корпоративной безопасности.

Инцидент с указанными ИИ-моделями Anthropic повлиял и на стратегию распространения моделей серии GPT-5.6 конкурирующей компании OpenAI, которая была вынуждена согласовать свои действия в этой сфере с правительством США, после чего решено было предоставить доступ к модели Sol 5.6 ограниченному кругу клиентов, которые были отобраны властями страны.

Ограничения на доступ к ИИ-модели Anthropic Fable 5 будут сняты на следующей неделе

Если более мощная Mythos 5 была недоступна для пользователей на протяжении 15 дней из-за запрета властей США, то ориентированную на широкий круг клиентов ИИ-модель Fable 5 из-под ограничений Anthropic на этой неделе не вывела. Осведомлённые источники утверждают, что это случится на следующей неделе. Доступ к Mythos 5 для доверенных пользователей был восстановлен в пятницу.

 Источник изображения: Anthropic

Источник изображения: Anthropic

Как отмечает Axios, переговоры Anthropic с американскими чиновниками на эту тему будут продолжаться и в выходные, поэтому доступ к Fable 5 может быть восстановлен уже на следующей неделе. Если более мощная Mythos 5, даже с учётом некоторых защитных механизмов, изначально была доступна лишь ограниченному кругу из примерно 200 доверенных компаний и организаций, то Fable 5 около трёх дней оставалась в широком доступе, поскольку разработчики предусмотрели для неё более серьёзные защитные механизмы. Впрочем, по некоторым данным, кто-то из пользователей нашёл способы их обхода, что отчасти и послужило причиной ограничения доступа к обеим моделям.

По информации Axios, среди американских ключевых ведомств только Пентагон и АНБ ещё не вынесли своего вердикта о безопасности возвращения Fable 5 в открытый доступ, а остальные правительственные структуры считают её достаточно безопасной для этого. Источник отмечает, что уладить спор между правительством США и Anthropic вокруг безопасности данных ИИ-моделей активно помогали министр торговли Говард Лютник (Howard Lutnick) и министр финансов Скотт Бессент (Scott Bessent).

Несмотря на ограниченный период свободного доступа к Fable 5, данная ИИ-модель успела завоевать высокие оценки среди компаний, активно внедряющих искусственный интеллект в свои бизнес-процессы. Правда, после блокировки доступа 12 июня им пришлось срочно искать замену Fable 5, многие даже обратились к альтернативам китайского происхождения. На каких условиях Fable 5 вернётся, пока не уточняется. Первоначально она была доступна подписчикам некоторых планов семейства Claude без доплаты, но будет ли обеспечен такой порядок в дальнейшем, сказать сложно. Сейчас OpenAI и Anthropic недовольны тем, что каждая новая ИИ-модель отдельно проверяется правительством США на безопасность, поскольку это затягивает процесс выхода новинок на рынок, который стремительно развивается.

Anthropic получила право восстановить доступ к Mythos 5 для ряда клиентов

Пару недель назад власти США распорядились закрыть доступ иностранных граждан к передовым ИИ-моделям Mythos 5 и Fable 5 компании Anthropic, но она не могла сделать это избирательно, а потому отключила почти всех клиентов от этих средств проверки кибербезопасности. К концу этой недели Anthropic удалось добиться права на частичное восстановление доступа к Mythos 5.

 Источник изображения: Anthropic

Источник изображения: Anthropic

Об этом сообщило агентство Bloomberg накануне, отметив, что данный шаг со стороны Anthropic был согласован с правительством США. В письме министра торговли Говарда Лютника (Howard Lutnick) в адрес директора Anthropic по вычислениям говорится: «Anthropic поработала с правительством США над устранением рисков, связанных с описываемыми моделями. Эти усилия привели к существенному прогрессу. Доступ к модели может быть восстановлен для определённых доверенных партнёров».

В комментариях другого представителя министерства Бенно Кааса (Benno Kaas) говорится, что всего за две недели была проделана работа, позволяющая сохранить за США статус мирового лидера в ИИ без ущерба для национальной безопасности. При этом в письме американского ведомства ничего не говорится об изменении условий доступа к более «мягкой» с точки зрения создаваемых рисков модели Fable 5. В ответном заявлении Anthropic говорится, что Mythos 5 снова может пользоваться небольшая группа специалистов в области киберзащиты и инфраструктурных провайдеров. Компания работает над восстановлением доступа для этих клиентов в максимально сжатые сроки. Anthropic также будет стремиться к возвращению Fable 5 в общий доступ. Взаимодействие с властями США на эту тему будет продолжаться в течение выходных.

Стороны переговоров также выработают рамочные условия для взаимодействия на случай возникновения подобных ситуаций в будущем. Конкурирующей OpenAI на этапе распространения своей модели GPT 5.6 пришлось согласовывать всех получающих к ней доступ клиентов с властями США. К началу текущего месяца формальные условия для доступа к Mythos 5 имели около 200 компаний и организаций. Какая часть из них сможет его восстановить в ближайшее время, не уточняется. Знакомые с ходом переговоров источники отмечают, что генеральный директор Anthropic Дарио Амодеи (Dario Amodei) старался в них не вмешиваться, чтобы не провоцировать американских чиновников, с которыми у него сложились не самые простые отношения.

Anthropic Mythos за считанные часы взломала почти все секретные системы АНБ США

Передовая модель искусственного интеллекта Anthropic Mythos за несколько часов во время контролируемой оценки безопасности смогла взломать «почти все» секретные системы Агентства национальной безопасности (АНБ) — одного из самых высокопоставленных и влиятельных разведывательных агентств в США, пишет The Economist.

 Источник изображения: anthropic.com

Источник изображения: anthropic.com

Об инциденте рассказал сенатор Марк Уорнер (Mark Warner), зампредседателя Комитета по разведке в верхней палате конгресса, со ссылкой на главу АНБ и Киберкомандования США генерала Джошуа Радда (Joshua Rudd). Первоначально сообщение об этом было опубликовано 14 июня, и впоследствии распространилось в соцсетях с утверждением, что Anthropic «взломала АНБ». В действительности это было санкционированное внутреннее тестирование, в ходе которого Mythos использовалась совместно с другими средствами в условиях, максимально приближённых к реальным.

История проливает свет на распоряжение американских властей от 12 июня, согласно которому Anthropic надлежало заблокировать доступ к моделям Fable 5 и Mythos 5 для всех лиц, не являющихся гражданами США, в том числе для сотрудников самой компании — та вообще изъяла их из общего доступа. Испытания проводились накануне, 11 июня; это, по утверждениям Anthropic, был «узкий взлом». Модель просто проанализировала базу кода с целью исправить выявленные проблемы, в результате чего были обнаружены несколько незначительных, уже известных ошибок — полноценного наступательного вторжения не было. Сейчас Anthropic, по её словам, пытается восстановить доступ к системе и совместно с чиновниками Белого дома готовит систему совместного управления рисками.

Инцидент разделил общественность на три лагеря. Первые говорят о неспособности правительства нанимать достаточно квалифицированных специалистов в области кибербезопасности. Вторые считают заявления Anthropic преувеличенной сенсацией или маркетинговым шагом, указывая на отсутствие подробностей о предполагаемом взломе и ставя под сомнение техническую компетентность главы АНБ. Третьи напоминают, что возможности моделей ИИ резко выросли — сроки развёртывания атак сократились с нескольких часов до нескольких минут, и даже в поддерживаемых проектах с открытым исходным кодом обнаруживается большое число уязвимостей.

Anthropic тем временем продолжает тесно сотрудничать с АНБ в рамках программы Project Glasswing. Несколько сотрудников компании работают прямо в ведомстве, адаптируя и настраивая Mythos для конкретных задач.

Получившие ранний доступ к Mythos клиенты Anthropic сохранили его даже после недавней блокировки

До сих пор было принято считать, что в прошлую пятницу Anthropic буквально «обрубила» доступ к ИИ-моделям Mythos 5 и Fable 5 буквально для всех пользователей, поскольку не смогла вычленить из их числа иностранцев, как того требовали власти США. Теперь Bloomberg уточняет, что получившие ранний доступ к Mythos организации сохранили его даже в этих условиях.

 Источник изображения: Anthropic

Источник изображения: Anthropic

Речь, по данным источника, идёт о программе Project Glasswing, которая подразумевает предоставление доступа к Mythos примерно 200 организациям, получившим соответствующее одобрение. Они должны были испытывать эту ИИ-модель в части поиска уязвимостей с самого начала, и для некоторых из них за последнюю неделю ничего не изменилось. По крайней мере, руководство компаний Dragos и Cisco Systems подтвердило, что они по-прежнему имеют доступ к Mythos. В конце прошлой недели Anthropic даже прекратила расширять доступ к Mythos 5 для участников программы Project Glasswing, а некоторые его лишились после первичного предоставления.

Anthropic участникам программы предлагала и доступ класса Mythos Preview с некоторыми ограничениями относительно полноценной версии Mythos 5, но пока сложно судить, будет ли он предоставляться в текущих условиях. Компания изначально намеревалась ограничить доступ пользователей только к Mythos 5 и Fable 5, не затрагивая прочие свои актуальные ИИ-модели. Amazon (AWS) является партнёром Anthropic, участвуя в предоставлении доступа к Mythos Preview через свою платформу Bedrock. Опять же, принято считать, что именно специалисты Amazon проинформировали власти США о наличии лазейки, позволяющей обойти ограничения в Fable 5, после чего американские чиновники и обратились к Anthropic с требованием запретить доступ к этой модели иностранцам. Базирующиеся в Евросоюзе организации так и не успели его получить, хотя до введения запрета он был предварительно одобрен.

Требования властей США к Anthropic для разблокировки ИИ-моделей практически труднореализуемы

Скоро исполнится ровно неделя с того момента, как компания Anthropic по требованию властей США отключила всех пользователей от ИИ-моделей Mythos 5 и Fable 5 из соображений национальной безопасности. Ограничить доступ к ним только для иностранцев Anthropic не смогла, поэтому пострадали все пользователи. Эксперты утверждают, что снять блокировку будет практически невозможно.

 Источник изображения: Anthropic

Источник изображения: Anthropic

Дело в том, как поясняет Wired со ссылкой на знакомые с содержанием переговоров источники, что власти США требуют от Anthropic навсегда исключить «лазейки», которые позволяют снять ограничения на взаимодействие пользователей с наиболее современными ИИ-моделями этого стартапа. В частности, разработчики блокируют возможность поиска информации для создания оружия массового поражения в общедоступных версиях моделей, но специалистам АНБ якобы удалось доказать, что определённое сочетание запросов к ИИ-моделям Anthropic позволяет снять эти ограничения в случае с той же Fable 5, которая была задумана в качестве общедоступной и безопасной версии Mythos 5.

Сейчас американские чиновники считают, что Anthropic должна исключить подобные возможности обхода блокировок, и только после этого передовые ИИ-модели компании можно будет вернуть в общий доступ. Подобную защиту компания, по их мнению, должна будет предусмотреть для всех своих моделей, а также проводить тестирование на их устойчивость к взлому самостоятельно, предоставляя регулярные отчёты американскому правительству. Эксперты в сфере кибербезопасности сходятся во мнении, что любые ограничения, предусматриваемые Anthropic в этой ситуации, будут работать лишь до определённой поры, поскольку со временем будут появляться более совершенные инструменты для обхода существующих блокировок. Исключить подобные злоупотребления раз и навсегда попросту невозможно, но власти США требуют от Anthropic именно этого. Если позиция американских чиновников не будет пересмотрена, ИИ-модели этого стартапа могут надолго остаться под запретом.

Anthropic проведёт переговоры с властями США для разблокировки ИИ-моделей Mythos 5 и Fable 5

В конце прошлой недели компании Anthropic пришлось заблокировать доступ для всех пользователей к своим ИИ-моделям Mythos 5 и Fable 5, поскольку американские чиновники выразили обеспокоенность угрозой для национальной безопасности, которая может возникать при доступе к ним со стороны иностранцев. Делегация Anthropic направится в Белый дом для переговоров в ближайшие дни.

 Источник изображения: Anthropic

Источник изображения: Anthropic

Об этом сообщило издание Axios, на публикацию которого ссылается Reuters. Это уже не первая попытка разработчиков Mythos и Fable 5 решить проблему, просто с конца прошлой неделе общение с правительственными чиновниками происходило в онлайн-режиме. Правительство США на прошлой неделе запретило предоставлять доступ иностранным гражданам к Mythos и Fable 5, даже если они находятся на территории США. Компания не нашла иного выхода, кроме как блокировать доступ к моделям для всех пользователей, поскольку даже среди её собственных сотрудников немало иностранных граждан.

Недавно стало известно, что в роли информаторов в этой ситуации выступили специалисты Amazon, которые выявили в ИИ-моделях Anthropic некоторые уязвимости, которые не позволяют в полной мере воспользоваться слабыми местами в информационной инфраструктуре реальных организаций и компаний, как считают в самой Anthropic. Кроме того, доступ к Mythos могли получить связанные с Китаем группировки, как сообщалось сегодня.

Власти США заподозрили Китай в несанкционированном доступе к модели Mythos компании Anthropic

Белый дом подозревает, что связанная с Китаем группа могла получить доступ к ИИ-модели Mythos компании Anthropic. По сообщению The Verge со ссылкой на Semafor, эти опасения стали одним из факторов, повлиявших на решение США о введении экспортных ограничений в отношении Mythos.

 Источник изображения: Anthropic

Источник изображения: Anthropic

Официального подтверждения от Белого дома этой информации не поступало. В своём посте в соцсети X Дэвид Сакс (David Sacks) — советник президента, также не упоминал в этом контексте Китай. Вместо этого он обратил внимание на якобы существующую возможность взлома моделей Fable и Mythos — утверждение, которое Anthropic впоследствии опровергла.

Компания не ответила на запрос о комментариях по поводу публикации Semafor. Однако её представитель сообщил изданию, что в ходе дискуссий с правительством США о контроле за экспортом тема Китая не поднималась. Если факт доступа китайской группы к Mythos подтвердится, это станет уже не первым инцидентом, касающимся этой модели, и также может создать, как пишет The Verge, угрозу национальной безопасности, включая возможность обратной разработки модели через дистилляцию.

Напомним, Anthropic неоднократно заявляла, что Mythos слишком опасен для публичного использования, однако, по данным Semafor, участники сообщества в Discord имели доступ к модели в течение двух недель до того, как Anthropic обнаружила взлом и отключила её.

Отключить доступ иностранцев к передовым моделям Anthropic пришлось по наводке главы Amazon

Власти США на днях решили, что находящаяся в открытом доступе передовая ИИ-модель Anthropic Fable 5 недостаточно хорошо защищена от злоумышленников, а потому иностранцев нужно лишить этого доступа. Anthropic перестраховалась и запретила работать с моделью всем пользователям. Как выясняется, тревогу в этой сфере поднял глава Amazon.

 Источник изображения: Anthropic

Источник изображения: Anthropic

По информации The Wall Street Journal, именно генеральный директор Amazon Энди Джесси (Andy Jassy) сообщил членам американского правительства, что исследователям этой компании удалось найти способ снять ограничения, предусмотренные Anthropic, чтобы убедиться в возможности использования ИИ-модели Fable 5 для реализации кибератак. Собрав совещание на эту тему, чиновники решили, что надёжнее всего будет перекрыть доступ к Fable 5 для иностранных правительственных структур, компаний и частных лиц. Решение было подкреплено на высшем уровне — его утвердил президент США Дональд Трамп (Donald Trump).

В пятницу между американскими чиновниками и генеральным директором Anthropic Дарио Амодеи (Dario Amodei) состоялся телефонный разговор. Компания была вынуждена пойти на предлагаемые властями США ограничения, но выразила своё несогласие с подобным решением. По факту, Anthropic сделала больше, чем от неё требовалось, перекрыв доступ всем пользователям не только к Fable 5, но и более сильной в части анализа проблем с кибербезопасностью Mythos. Формально, Anthropic лишилась возможности развивать свои ИИ-модели, поскольку многие из её специалистов являются иностранцами.

Представители Amazon заявили, что правительство США часто советуется с компанией в области информационной безопасности. Когда подобный обмен данными происходит, Amazon не раскрывает его содержания. Anthropic подчеркнула, что выявленные специалистами Amazon уязвимости могут быть обнаружены и другими публично доступными ИИ-моделями, и они не дают полного механизма обхода защиты. Компания считает, что существующих мер безопасности достаточно для предотвращения использования злоумышленниками этих уязвимостей. В условиях подготовки к осеннему IPO подобные препятствия для развития ИИ-моделей Anthropic явно не пойдут компании на пользу. У стартапа с весны этого года тлеет конфликт с Пентагоном, но вчерашняя инициатива по блокировке доступа к моделям Anthropic исходила и не от этого ведомства, как поясняют источники.

Исследование Amazon выявило, что особые запросы к Fable 5 позволяют найти с помощью этой модели уязвимости как минимум в четырёх программных продуктах. Сторонние эксперты считают, что выявляемые уязвимости особой опасности с точки зрения кибербезопасности не представляют. Хотя аналогичные слабые места в ПО можно выявить и с помощью других моделей, именно решения Anthropic позволяют генерировать вредоносный программный код, использующий эти уязвимости для реализации злонамеренных действий. Нет никаких свидетельств того, что специалистам Amazon удалось продвинуться в этом сценарии до конечной цели. Более мощная модель Mythos распространялась Anthropic предельно осторожно, но в итоге это не уберегло компанию от очередных претензий со стороны властей США.

Anthropic отключила передовые ИИ-модели Mythos 5 и Fable 5 для всех пользователей по требованию США

Как известно, американский стартап Anthropic с весны этого года оспаривает отнесение его властями США к числу компаний, представляющих угрозу для национальной безопасности, но в последние месяцы взаимодействие сторон в этом русле было более или менее конструктивным. Однако, на этой неделе возник новый очаг напряжённости, который вынудил Anthropic блокировать доступ всех пользователей к передовым моделям.

 Источник изображения: Anthropic

Источник изображения: Anthropic

Вчера днём Anthropic, как поясняет Financial Times, получила от министра торговли США распоряжение перекрыть доступ к своим передовым ИИ-моделям для всех иностранцев, поскольку ведомству стало известно об уязвимости, которая может быть использована злоумышленниками в ущерб интересам национальной безопасности. Компания не нашла иного способа выполнить требования правительства, кроме как полностью отключить пользователей от передовых моделей Mythos 5 и Fable 5, включая находящихся на территории США. По сути, работа пользователей с этими моделями была полностью парализована.

Правительственные эксперты ранее получили право приоритетного доступа к моделям семейства Mythos, которые позволяли автоматически искать уязвимости в информационной инфраструктуре, а сама Anthropic тщательно ограничивала круг пользователей этого мощного инструмента в сфере кибербезопасности, но в конечном итоге начала предоставлять доступ более широкому кругу клиентов к модифицированной модели Fable 5. Американские власти увидели в этом угрозу для национальной безопасности, ссылаясь на некоторую «лазейку», которая позволяет потенциальным злоумышленникам снять те ограничения, которые были предусмотрены разработчиками. Хотя правительство и потребовало от Anthropic исключить доступ к этим моделям только иностранных пользователей, компания была вынуждена перекрыть доступ к ним для всех клиентов.

Данное распоряжение властей США компания оспаривает, считая, что решение было принято в результате недопонимания со стороны чиновников. «Мы считаем, что правительство должно иметь возможность блокировать распространение небезопасных моделей, в рамках законного процесса, который прозрачен, справедлив и основан на технических фактах. Действия властей в данном случае не полагаются на указанные принципы», — говорится в заявлении Anthropic. По мнению представителей компании, если блокировать доступ к коммерческим ИИ-моделям на основе выявления узконаправленных уязвимостей, то это полностью остановит распространение всех передовых моделей любых провайдеров. В истории противостояния Anthropic и властей США, похоже, открыта новая глава.

Anthropic представила Claude Fable 5 — «безопасную версию» той самой нашумевшей Mythos

В начале месяца Anthropic расширила доступность своей самой мощной ИИ-модели Claude Mythos, которая позволяет эффективно искать уязвимости в информационной инфраструктуре, для 150 организаций из 15 стран. Теперь же компания выпустила Claude Fable 5 — более «безопасную» версию Mythos, ориентированную на потребительский рынок.

 Источник изображений: Anthropic

Источник изображений: Anthropic

В Fable 5 разработчики сохранили высокую производительность в области генерации программного кода и рассуждений, но ввели ряд строгих ограничений для обеспечения должного уровня кибербезопасности. Anthropic опасалась, что Mythos может использоваться хакерами для поиска уязвимостей и проведения атак на критическую инфраструктуру. Поэтому в Fable 5 имеются ограничения. В случаях, когда чат-боту будут задаваться вопросы, например, связанные с кибербезопасностью, биологией или химией, ответы будут генерироваться менее продвинутой моделью Claude Opus 4.8. По данным Anthropic, необходимость переключения на Claude Opus 4.8 возникает сравнительно редко: более 95 % пользовательских сессий обрабатываются непосредственно Fable 5 без задействования резервной модели.

Аналитическая компания Hex сообщила, что Fable стала первой моделью, которая получила 90% в их основном бенчмарке для сложных и длительных аналитических задач, продемонстрировав сильное суждение в самых сложных вопросах. Платформа Base44 отметила, что модель превосходно справляется с вызовом инструментов и лучше других пишет полноценные приложения с одной попытки. Платформа Genspark заявила, что Fable превзошла все остальные алгоритмы в их тестах, показав значительно лучшие результаты в дизайне пользовательских интерфейсов и программировании игр.

Fable 5 будет доступна через Claude API и корпоративные тарифные планы, в рамках которых взимается плата за количество использованных токенов. До 22 июня алгоритм включён в тарифы Pro, Max, Team и Enterprise без дополнительной платы. После этого Anthropic исключит ИИ-модель из этих тарифов и будет взимать плату в зависимости от количества используемых токенов. Параллельно Anthropic развёртывает новую модель Mythos 5 для организаций, которые уже получили доступ к Mythos ранее. Стоимость использования Fable 5 и Mythos 5 составляет $10 за 1 млн входных токенов и $50 за 1 млн выходных токенов, что вдвое выше стоимости использования Opus 4.8.

Из-за опасений по поводу того, что Mythos может стать оружием в руках киберпреступников, Anthropic подвергла классификаторы модели внутреннему стресс-тестированию с попытками взлома и обхода защитных механизмов перед выпуском Fable 5. В результате разработчиком не удалось выявить вариантов взлома за более чем 1000 часов тестирования. После этого к тестированию подключились внешние организации из числа партнёров Anthropic, но и им не удалось найти универсальных вариантов взлома алгоритма.

Тем не менее нельзя исключать, что хакеры попытаются обойти защитные механизмы Fable 5. Поэтому Anthropic будет требовать от клиентов хранить весь трафик в течение 30 дней, даже если ранее было заключено соглашение, не предусматривающее хранения каких-либо данных. Anthropic пообещала не использовать данные клиентов для обучения ИИ-моделей. В компании заявили, что эти данные могут оказаться полезными для «защиты от сложных и новых атак», а также «для выявления и уменьшения количества ложных срабатываний». Такой подход может создать отраслевой прецедент, при котором доступ к передовым ИИ-моделям будет сопровождаться обязательным требованием по хранению данных под предлогом обеспечения безопасности.

Выпуск Fable 5 состоялся вскоре после того, как Anthropic призвала крупнейшие ИИ-компании согласовать механизмы контроля за развитием наиболее мощных моделей. В компании считают, что прогресс в области ИИ происходит настолько быстро, что в будущем системы могут получить возможность самостоятельно улучшать собственные алгоритмы.

Anthropic доверит свой самый опасный ИИ Mythos 150 организациям в 15 странах по всему миру

Количество желающих получить доступ к ИИ-модели Claude Mythos, которая позволяет быстро обнаруживать уязвимости в информационной инфраструктуре, предсказуемо растёт, но разработчики из Anthropic стараются давать этот мощный инструмент только в надёжные руки. Доступ к Mythos вскоре будут в общей сложности иметь 150 организаций из более чем 15 стран.

 Источник изображения: Anthropic

Источник изображения: Anthropic

Об этом со ссылкой на заявления Anthropic накануне сообщило издание Financial Times. Так называемый Project Glasswing вскоре охватит более чем 15 стран. Символично, что об этом стартап заявил на следующий день после подачи предварительной заявки на IPO. До сих пор доступ к мощному ИИ-инструменту для поиска уязвимостей в информационной инфраструктуре имели преимущественно компании и организации из США и Великобритании, но теперь география будет существенно расширена.

Изначально после выхода Mythos доступ к ИИ-модели был предоставлен примерно 50 компаниям, главным образом — американским, поскольку создатели были уверены, что её возможности могут быть использованы хакерами для атак на чувствительную инфраструктуру. Теперь получить доступ к Mythos смогут избранные организации из Канады, Австралии и Новой Зеландии. К ним присоединятся Франция, Германия, Италия, Швейцария, Нидерланды, Испания, Бельгия, Швеция, Индия, Япония и Южная Корея. Надо сказать, что чиновники многих из этих стран уже ходатайствовали по поводу предоставления доступа к Mythos, мотивируя это стремлением провести аудит в сфере кибербезопасности. С южнокорейской стороны доступ к Mythos будет предоставлен компаниям Samsung, SK hynix и SK Telecom.

НАТО через свою штаб-квартиру в Брюсселе впервые получит подобный доступ. Европейское агентство Enisa, отвечающее за кибербезопасность, тоже окажется в числе организаций, обладающих доступом к Mythos. По словам представителей Anthropic, новый этап расширения Project Glasswing позволит применять Mythos в новых отраслях экономики, включая энергетику, водоснабжение, здравоохранение, телекоммуникации и выпуск аппаратного обеспечения. По всей видимости, именно важность южнокорейских производителей памяти для мировой инфраструктуры ИИ позволила им получить доступ к Mythos в приоритетном порядке. В число получивших доступ к этой модели имеются и некоммерческие организации. По оценкам Anthropic, многие разработчики ИИ-систем в течение ближайших 12 месяцев обзаведутся моделями такого класса, и если не контролировать их распространение, то кибератаки будут осуществляться значительно чаще, а их последствия будет сложнее предугадать. О своих намерениях расширить доступ к Mythos компания заявила ещё в конце мая.

Anthropic подтвердила, что откроет сверхмощную ИИ-модель Claude Mythos для широкой аудитории

Anthropic подтвердила, что планирует выпустить модели искусственного интеллекта класса Mythos для широкой публики — компания задержала их выход из-за рисков безопасности для открытого и закрытого ПО.

 Источник изображения: anthropic.com

Источник изображения: anthropic.com

Anthropic анонсировала Mythos как модель с ограниченным доступом — поработать с ней получили возможность некоторые компании и исследователи в области кибербезопасности. Тогда компания указала на серьёзные угрозы, которые представляет модель, и решила отказаться от публичного выпуска. «Преимущество будет на стороне того, кто сможет извлечь максимальную выгоду из этих инструментов. В краткосрочной перспективе это могут быть злоумышленники, если передовые лаборатории не проявят осторожность с выпуском этих моделей. В долгосрочной перспективе ожидаем, что это будут защитники, которые смогут эффективно направлять ресурсы и использовать эти модели для исправления ошибок до выпуска нового кода», — пояснили в Anthropic.

Сейчас компании, видимо, удалось разработать надёжные механизмы защит от неправомерного использования Mythos — она обещает быть мощнее Opus 4.8 и других доступных на сегодняшний день моделей. Anthropic пообещала познакомить общественность с Mythos в ближайшие недели, но конкретных сроков не привела. «Мы быстро продвигаемся в разработке мер защиты и ожидаем, что в ближайшие недели сможем представить модели класса Mythos всем нашим клиентам», — пообещали в компании, но не уточнили, будет ли это та же версия, которой пользуются избранные эксперты в области кибербезопасности.

Mythos, отметили в Anthropic, демонстрирует значительные улучшения в логике и автономности, намного превосходя актуальную флагманскую модель Claude Opus 4.8. В какой-то момент Mythos-preview появилась на платформе Claude Code, но компания оперативно её убрала из общего доступа.

ИИ-супермодель Claude Mythos всего за месяц обнаружила свыше 10 тыс. уязвимостей в ПО

Компания Anthropic опубликовала первый отчёт о проекте в сфере кибербезопасности Project Glasswing, запущенной в апреле. В основе инициативы лежит пока не ставшая широкодоступной ИИ-модель Claude Mythos Preview, которая всего за один месяц помогла партнёрам Anthropic обнаружить более 10 тысяч уязвимостей в их программном обеспечении.

 Источник изображения: Anthropic

Источник изображения: Anthropic

Большинство компаний, получивших доступ к нейросети, зафиксировали сотни критических багов в своих продуктах. Как сообщает Engadget, Cloudflare обнаружила 2000 уязвимостей, из которых 400 отнесены к категории высокой или критической опасности. Mozilla нашла и исправила 271 ошибку в браузере Firefox, значительно превзойдя результаты тестирования с использованием предыдущих версий модели Claude. Также и недавнее заявление Microsoft о предстоящем увеличении объёма выпускаемых патчей напрямую связано с результатами сканирования инфраструктуры через Mythos Preview.

Помимо корпоративного сектора, специалисты Anthropic протестировали тысячу проектов с открытым исходным кодом, где ИИ выявил свыше 6200 критических угроз из 23 тысяч найденных недочётов. При этом сторонние исследователи заявили, что с помощью Mythos им удалось найти способ по взлому защищённой операционной системы macOS. На фоне столь высокой эффективности Anthropic пока отказывается от публичного релиза модели, так как разработчики опасаются использования технологии злоумышленниками и планируют сделать алгоритм общедоступным только после создания надёжных механизмов защиты.

В настоящее время Anthropic расширяет доступность проекта Project Glasswing, работая над восстановлением отношений с правительством США и привлекая к сотрудничеству крупные технологические компании, включая Apple, Google и Nvidia.

«Настоящий шаг вперёд»: Cloudflare сравнила Anthropic Mythos с опытным исследователем

Эксперты компании Cloudflare изучили возможности передовой модели искусственного интеллекта Anthropic Mythos и оставили о ней самые положительные отзывы, хотя и оговорились, что надлежащие сценарии её применения ещё предстоит выработать.

 Источник изображений: cloudflare.com

Источник изображений: cloudflare.com

Cloudflare приняла участие в программе Anthropic Project Glasswing, в рамках которой ей предоставили доступ к Mythos. Цель программы — опередить использующих ИИ злоумышленников в обнаружении уязвимостей систем. Среди других участников программы значатся Amazon Web Services, Apple, Google, Microsoft и Nvidia — им Anthropic выделила кредиты на сумму до $100 млн, чтобы дать возможность изучить возможности Mythos. «Claude Mythos Preview — универсальная, ещё не выпущенная модель, которая раскрывает суровый факт: ИИ-модели достигли такого уровня в программировании, что могут превзойти всех, кроме самых опытных людей, в поиске и эксплуатации уязвимостей ПО. <..> Project Glasswing — оперативная попытка использовать эти возможности в целях защиты», — отметили в Cloudflare.

Mythos произвела на экспертов Cloudflare большое впечатление; компания признала, что это «настоящий шаг вперёд, <..> не просто усовершенствование того, что было прежде, <..> изменение Mythos состоит в том, что модель теперь может собирать эти ошибки невысокой степени угрозы (которые традиционно так и оставались бы невидимыми в списке невыполненных задач) и объединять их в один, более опасный эксплойт». В ходе тестирования Cloudflare выделила две наиболее важные функции Mythos: «построение цепочек эксплойтов», то есть способность интеллектуально объединять уязвимости в целостную схему атаки; и «генерацию доказательств», то есть фактическую демонстрацию работоспособности полученных результатов.

Эксперты компании также указали, что прочие специалисты не вполне корректно использовали преимущества Mythos, когда делали упор на скорости обнаружения уязвимостей, чтобы их быстро исправить. Она лучше раскрывает свои возможности, если применять её целенаправленно и поэтапно. Ей может быть непросто изучать большую базу кода целиком — эффективнее использовать её в узких областях, то есть запускать несколько ИИ-агентов под управлением Mythos, поручая каждому конкретную задачу.

Передовая ИИ-модель, считают в Cloudflare, показала, что и подход к исправлению уязвимостей теперь должен быть иным: «Более сложный вопрос состоит в том, как должна выглядеть архитектура вокруг уязвимости. Принцип в том, чтобы затруднить злоумышленнику [её] эксплуатацию даже при наличии ошибки, чтобы разрыв между моментом обнаружения уязвимости и моментом её исправления имел меньшее значение». В компании предлагают принять три меры защиты ПО в эпоху ИИ: усложнить гипотетическим злоумышленникам доступ к самим приложениям, используя внешние средства; проектировать ПО так, чтобы взлом одного его фрагмента не означал компрометации всей системы сразу; и, наконец, развёртывать обновления безопасности немедленно, а не ждать, когда каждая команда программистов доделает свою работу. В Cloudflare пообещали «в ближайшие недели» рассказать клиентам о том, как Mythos изменит их работу.


window-new
Soft
Hard
Тренды 🔥
Epic Games Store устроил раздачу классической игры I Have No Mouth, and I Must Scream о последних людях на Земле, которых пытает безумный суперкомпьютер 2 ч.
Авторитетный инсайдер опроверг закрытие Obsidian Entertainment и работу студии над новой Fallout 3 ч.
Правительство США снова взломали: хакеры проникли в федеральную платформу для обмена разведданными 3 ч.
«Не можешь — научим, не хочешь — заставим»: Microsoft мобилизует 6000 сотрудников для помощи клиентам во внедрении ИИ 3 ч.
Браузер Opera получил продвинутую защиту от ввода вредоносных команд через буфер обмена 3 ч.
ИИ оказался слишком дорогим: компании урезают сотрудникам доступ к ChatGPT и Claude 4 ч.
Студия создателя Deus Ex и System Shock перестанет делать игры — после провала Thick as Thieves в OtherSide осталось меньше десяти человек 4 ч.
Google не смогла отбиться от рекордного штрафа в €4,1 млрд в Европе 4 ч.
Кризис Xbox поставил под угрозу закрытия Obsidian — студию в ответе за Fallout: New Vegas, Pillars of Eternity и South Park: The Stick of Truth 5 ч.
Toyota собирается при помощи ИИ навести порядок в своей документации и терминологии 5 ч.