Сегодня 02 июля 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Теги → anthropic
Быстрый переход

Anthropic удалила из Claude скрытую защиту от дистилляции ИИ-моделей китайскими разработчиками

Anthropic заявила, что в обновлении Claude Code от 1 июля из приложения удалён добавленный несколько месяцев назад скрытый код, который призван выявлять других разработчиков систем искусственного интеллекта, пытающихся украсть данные её моделей.

 Источник изображения: anthropic.com

Источник изображения: anthropic.com

«Этот эксперимент мы запустили в марте, и он был призван предотвращать злоупотребление учётными записями со стороны неавторизованных реселлеров и защитить от дистилляции. С тех пор компания разработала более эффективные меры защиты, и мы на самом деле давно собирались его удалить», — пояснил инженер Anthropic Тарик Шихипар (Thariq Shihipar).

Эксперимент заключался в применении метода стеганографии — сокрытия секретных данных на виду — к контексту системы Claude Code, передаваемому на серверы Anthropic. Код проверял переменную базового URL, используемую для маршрутизации запросов API к шлюзу или прокси-серверу. Если базовый URL переопределяется, код проверяет часовой пояс системы и производит сверку со списком адресов известных китайских лабораторий и других компаний, которые занимаются ИИ, реселлеров учётных записей и доменов шлюзов.

«Claude Code незначительно изменяет системный запрос, используя почти невидимые маркеры Unicode. Классификация прокси/шлюза кодируется в предложение, которое выглядит как обычная фраза на английском. В ней скрывается список доменов в форматах XOR и base64. Функция не вредоносная, но это странный выбор для разработчика, рассчитывающего на доверие», — пояснил эксперт под псевдонимом Thereallo. Компания также использовала средства обнаружения с помощью классификаторов и систем поведенческой идентификации, обмен информацией с другими лабораториями ИИ, контроль доступа и контрмеры, затрудняющие использование ответов модели для воспроизведения её поведения.

С утечкой исходного кода приложения Claude Code стало известно ещё об одном средстве защиты ИИ Anthropic от дистилляции — включении файла Typescript с пометкой «ANTI_DISTILLATION_CC». При установке этой пометки в запросы по API внедряются фиктивные данные, призванные быть опасными при обучении сторонних моделей.

Пользователи Claude встретили возвращение Fable 5 волной критики из-за новых ограничений

После почти трёхнедельного перерыва, вызванного ограничениями со стороны правительства США, мощные ИИ-модели Fable 5 и Mythos 5 от Anthropic снова становятся доступны пользователям. Однако подписчики Claude узнали, что и без того короткий период доступности Fable 5 будет ещё больше сокращён. Этот факт вызвал настоящую бурю возмущения в сети.

 Источник изображения: Anthropic

Источник изображения: Anthropic

По данным Anthropic, ИИ-модель Fable 5 должна стать доступна сегодня, 1 июля. Mythos 5 — более мощная модель с меньшим количеством мер безопасности — уже доступна для определённого числа организаций в США, но пока не выпускается для широкой публики. Помимо доступности через API, свободный доступ к Fable 5 будет открыт для платных подписчиков Claude Pro, Max, Team и некоторых корпоративных тарифных планов, но только до 7 июля — всего на одну неделю, то есть лишь на половину периода, первоначально обещанного Anthropic. После окончания этого периода пользователям тарифных планов Claude придётся приобретать «кредиты на использование» Fable 5 по значительно более высокой цене, примерно соответствующей той, которую платят пользователи API.

Есть и ещё один нюанс: пользователи тарифных планов Claude смогут использовать Fable только в объёме 50 % от первоначально запланированного. Возмущённые новыми ограничениями, подписчики Claude выражают своё недовольство в длинной ветке на форуме Reddit, пишет PC World.

«Не очень хорошо, что Fable возвращают, а потом ещё и сокращают вдвое использование и убирают дни», — написал один пользователь Reddit. «Мы могли использовать его всего 3 дня из 14 обещанных, а теперь получаем только 7 дней с половинным использованием?» — написал другой.

Fable 5 и Mythos 5 были впервые выпущены 9 июня. Первоначальный план предусматривал, что подписчики Claude получат свободный доступ к Fable до 23 июня — две полные недели без каких-либо ограничений. Однако 12 июня Anthropic внезапно отключила Fable и Mythos после того, как правительство США, встревоженное отчётом Amazon о возможности лёгкого взлома этих моделей, ввело экспортные ограничения. После этого Anthropic заявила, что «оперативно приняла меры для устранения обнаруженного обхода защиты», внедрив «улучшенный классификатор безопасности, который выявляет и блокирует поведение, описанное в отчёте».

В адрес Fable уже ранее высказывались нарекания по поводу того, что модель слишком быстро отклоняла определённые запросы, особенно касающиеся кибербезопасности и биологии, и даже отвлекала пользователей от деликатных вопросов, пытаясь сменить тему без объяснения причин.

Среди пользователей недоумение также вызвало сообщение Anthropic в социальных сетях о том, что «некоторые рутинные задачи, такие как программирование и отладка, будут перенесены на Opus 4.8» — менее мощную ИИ-модель.

Anthropic выпустила Claude Sonnet 5 — ИИ-модель «в среднем весе», которая приближается по уровню к Opus 4.8 и заточена под работу с агентами

Одной из важнейших возможностей для современных моделей искусственного интеллекта является их способность управлять агентскими приложениями, и при разработке новой Claude Sonnet 5 компания Anthropic уделила этому первостепенное внимание.

 Источник изображений: anthropic.com

Источник изображений: anthropic.com

«Она умеет планировать, пользоваться такими средствами как браузеры и терминал, а также работать автономно на уровне, который ещё несколько месяцев назад предполагали более крупные и дорогие модели», — рассказали в компании. Концепция Sonnet 5 основана на том, что управление ИИ-агентами является новым базовым требованием, которое предъявляется к моделям в любом сегменте. Решающим фактором является не то, какая из них лучше всего справляется с этой задачей, а то, насколько дёшево и надёжно она способна делать это без участия человека.

Относящаяся к средней категории Claude Sonnet 5 обещает качество работы, близкое к Opus 4.8, но значительно дешевле; новая модель с сегодняшнего дня устанавливается по умолчанию для всех пользователей платформы Claude — тех, кто на бесплатном тарифе, и тех, кто оформил подписку. При доступе по API до 31 августа цена подключения к Sonnet 5 составляет $2 за 1 млн входных и $10 за 1 млн выходных токенов; далее цены вырастут до $3 и $15 соответственно. Новая модель демонстрирует значительные улучшения по сравнению с вышедшей в феврале Sonnet 4.6. В одном из тестов на написание кода Sonnet 5 набрала 63,2 % — Opus 4.8 показала 69,2 %, а Sonnet 4.6 — 58,1 %. В тесте на обработку данных Sonnet 5 даже немного обошла Opus 4.8, известную своей способностью решать самые сложные задачи, принимать сложные решения и проводить глубокие исследования.

«Opus 4.8 всё ещё остаётся предпочтительной моделью для более высокой точности в таких задачах, но Sonnet 5 даёт разработчикам менее дорогие варианты с более высоким качеством, чем доступные ранее. С Sonnet 5 и Opus 4.8 пользователи могут выбирать уровень сложности, чтобы найти идеальный баланс между стоимостью и производительностью», — пояснил разработчик. У Sonnet 5 также снизился уровень «нежелательного поведения», то есть она менее подвержена злоупотреблениям и более безопасна в агентских контекстах, отклоняя вредоносные запросы и обходя попытки взлома при атаках с внедрением запросов. По сравнению с Sonnet 4.6 она реже демонстрирует галлюцинации и подобострастие.

Конечно, ИИ-модель среднего класса Sonnet 5 всё-таки уступает Opus 4.8 и Claude Mythos Preview. «Оценки также показывают, что она обладает гораздо меньшей способностью выполнять опасные задачи в области кибербезопасности, чем наши текущие модели Opus», — предупредили в Anthropic.

Новая ИИ-модель Anthropic Claude Science поможет учёным эффективнее бороться с болезнями и создавать лекарства

Биотехнологии и фармацевтика являются перспективными сферами применения искусственного интеллекта, поскольку он позволяет ускорить процесс научных открытий при благоприятном стечении обстоятельств. Осознавая это, американский стартап Anthropic предложил профильным специалистам новую модель Claude Science, которая поможет добиться прогресса в соответствующих сферах.

 Источник изображения: Anthropic

Источник изображения: Anthropic

Анализ трёхмерных белковых структур и поиск лекарственных средств являются одними из множества сфер применения этого ИИ-инструмента. Как предположил генеральный директор Anthropic Дарио Амодеи (Dario Amodei), подобные средства для работы с биотехнологиями важно предоставлять только ответственным и проверенным компаниям, поскольку в руках злоумышленников они могут использоваться для создания биологического оружия. В конце концов, как отметил Амодеи, традиционные методы работы с опасными биологическими материалами подразумевают следование определённым протоколам безопасности, и Anthropic тоже готова их соблюдать с точки зрения распространения Claude Science.

Фармацевтические гиганты типа Eli Lilly активно инвестируют в искусственный интеллект, не только закупая вычислительные средства той же Nvidia, но и вкладывая средства в перспективные стартапы. Пока Claude Science позволяет сосредоточиться на предварительных этапах разработки лекарственных средств типа создания молекулярной формулы, но в дальнейшем потенциал модели планируется расширить и на этап клинических испытаний. Anthropic также интересуется направлением робототехники. Клиенты компании и ранее использовали универсальные версии моделей Claude для создания лекарственных средств. Доступ к Claude Science можно получить и за пределами США по индивидуальной или корпоративной подписке. Конкурирующая OpenAI ещё в апреле предложила модель GPT-Rosalind, которая специализируется на медицинских проблемах и биотехнологиях.

По словам представителей Anthropic, новая модель Claude Science позволит сосредоточиться на поиске лекарств от «непопулярных» болезней, которые традиционной фармакологической отрасли не были интересны в силу низкой коммерческой привлекательности. Применение ИИ в данном случае позволяет снизить затраты компаний и оправдать создание таких лекарств экономически.

Anthropic договорилась с США — запрет на ИИ-модель Fable 5 снят

По всей видимости, обещанные переговоры на протяжении минувших выходных оказались продуктивными, поскольку к середине текущей недели власти США действительно разрешили Anthropic снять экспортные ограничения на использование ИИ-модели Fable 5. За несколько дней до этого послабления были сделаны в отношении доступа к более мощной модели Mythos 5.

 Источник изображения: Anthropic

Источник изображения: Anthropic

Как поясняет Bloomberg, представители Anthropic о достижении прогресса в переговорах с американскими чиновниками сообщили на своей странице в социальной сети X. Экспортные ограничения на доступ к Fable 5 и Mythos 5 были сняты Министерством торговли США накануне, о чём ведомство сообщило компании. Сегодня Anthropic обещает начать процесс восстановления доступа к указанным моделям для пользователей. Компания поблагодарила пользователей за терпение, а также выразила признательность всем вовлечённым в процесс перезапуска моделей.

Как следует из направленного министром торговли США Говардом Лютником (Howard Lutnick) письма, Anthropic взяла на себя обязательства превентивно обнаруживать и нивелировать риски в области безопасности, связанные с этими моделями. Компания также согласилась взаимодействовать с правительством США в сфере разработки протоколов и стандартов, определяющих развитие будущих моделей. Fable 5 изначально была ориентирована на широкий доступ пользователей, она предусматривала ряд защитных механизмов, не позволяющих применять её в определённых целях, нежелательных с точки зрения общественной и корпоративной безопасности.

Инцидент с указанными ИИ-моделями Anthropic повлиял и на стратегию распространения моделей серии GPT-5.6 конкурирующей компании OpenAI, которая была вынуждена согласовать свои действия в этой сфере с правительством США, после чего решено было предоставить доступ к модели Sol 5.6 ограниченному кругу клиентов, которые были отобраны властями страны.

Ограничения на доступ к ИИ-модели Anthropic Fable 5 будут сняты на следующей неделе

Если более мощная Mythos 5 была недоступна для пользователей на протяжении 15 дней из-за запрета властей США, то ориентированную на широкий круг клиентов ИИ-модель Fable 5 из-под ограничений Anthropic на этой неделе не вывела. Осведомлённые источники утверждают, что это случится на следующей неделе. Доступ к Mythos 5 для доверенных пользователей был восстановлен в пятницу.

 Источник изображения: Anthropic

Источник изображения: Anthropic

Как отмечает Axios, переговоры Anthropic с американскими чиновниками на эту тему будут продолжаться и в выходные, поэтому доступ к Fable 5 может быть восстановлен уже на следующей неделе. Если более мощная Mythos 5, даже с учётом некоторых защитных механизмов, изначально была доступна лишь ограниченному кругу из примерно 200 доверенных компаний и организаций, то Fable 5 около трёх дней оставалась в широком доступе, поскольку разработчики предусмотрели для неё более серьёзные защитные механизмы. Впрочем, по некоторым данным, кто-то из пользователей нашёл способы их обхода, что отчасти и послужило причиной ограничения доступа к обеим моделям.

По информации Axios, среди американских ключевых ведомств только Пентагон и АНБ ещё не вынесли своего вердикта о безопасности возвращения Fable 5 в открытый доступ, а остальные правительственные структуры считают её достаточно безопасной для этого. Источник отмечает, что уладить спор между правительством США и Anthropic вокруг безопасности данных ИИ-моделей активно помогали министр торговли Говард Лютник (Howard Lutnick) и министр финансов Скотт Бессент (Scott Bessent).

Несмотря на ограниченный период свободного доступа к Fable 5, данная ИИ-модель успела завоевать высокие оценки среди компаний, активно внедряющих искусственный интеллект в свои бизнес-процессы. Правда, после блокировки доступа 12 июня им пришлось срочно искать замену Fable 5, многие даже обратились к альтернативам китайского происхождения. На каких условиях Fable 5 вернётся, пока не уточняется. Первоначально она была доступна подписчикам некоторых планов семейства Claude без доплаты, но будет ли обеспечен такой порядок в дальнейшем, сказать сложно. Сейчас OpenAI и Anthropic недовольны тем, что каждая новая ИИ-модель отдельно проверяется правительством США на безопасность, поскольку это затягивает процесс выхода новинок на рынок, который стремительно развивается.

Anthropic получила право восстановить доступ к Mythos 5 для ряда клиентов

Пару недель назад власти США распорядились закрыть доступ иностранных граждан к передовым ИИ-моделям Mythos 5 и Fable 5 компании Anthropic, но она не могла сделать это избирательно, а потому отключила почти всех клиентов от этих средств проверки кибербезопасности. К концу этой недели Anthropic удалось добиться права на частичное восстановление доступа к Mythos 5.

 Источник изображения: Anthropic

Источник изображения: Anthropic

Об этом сообщило агентство Bloomberg накануне, отметив, что данный шаг со стороны Anthropic был согласован с правительством США. В письме министра торговли Говарда Лютника (Howard Lutnick) в адрес директора Anthropic по вычислениям говорится: «Anthropic поработала с правительством США над устранением рисков, связанных с описываемыми моделями. Эти усилия привели к существенному прогрессу. Доступ к модели может быть восстановлен для определённых доверенных партнёров».

В комментариях другого представителя министерства Бенно Кааса (Benno Kaas) говорится, что всего за две недели была проделана работа, позволяющая сохранить за США статус мирового лидера в ИИ без ущерба для национальной безопасности. При этом в письме американского ведомства ничего не говорится об изменении условий доступа к более «мягкой» с точки зрения создаваемых рисков модели Fable 5. В ответном заявлении Anthropic говорится, что Mythos 5 снова может пользоваться небольшая группа специалистов в области киберзащиты и инфраструктурных провайдеров. Компания работает над восстановлением доступа для этих клиентов в максимально сжатые сроки. Anthropic также будет стремиться к возвращению Fable 5 в общий доступ. Взаимодействие с властями США на эту тему будет продолжаться в течение выходных.

Стороны переговоров также выработают рамочные условия для взаимодействия на случай возникновения подобных ситуаций в будущем. Конкурирующей OpenAI на этапе распространения своей модели GPT 5.6 пришлось согласовывать всех получающих к ней доступ клиентов с властями США. К началу текущего месяца формальные условия для доступа к Mythos 5 имели около 200 компаний и организаций. Какая часть из них сможет его восстановить в ближайшее время, не уточняется. Знакомые с ходом переговоров источники отмечают, что генеральный директор Anthropic Дарио Амодеи (Dario Amodei) старался в них не вмешиваться, чтобы не провоцировать американских чиновников, с которыми у него сложились не самые простые отношения.

Claude всё быстрее догоняет ChatGPT по числу платящих пользователей

Согласно данным аналитической компании Indagari, занимающейся анализом транзакций по кредитным картам, потребители, платящие за ИИ, всё чаще выбирают Claude компании Anthropic. Это свидетельствует о том, у неё более широкая и устойчивая клиентская база, чем та ниша, на которую она чаще ориентируется — разработчики из числа предприятий и стартапов, использующие Claude Code. Но по абсолютным показателям ChatGPT конкурирующей OpenAI всё ещё впереди.

 Источник изображения: Anthropic

Источник изображения: Anthropic

Indagari проанализировала миллиарды анонимизированных транзакций по кредитным картам примерно 28 млн американских потребителей. Хотя эти данные не могут дать абсолютных цифр о доходах Anthropic или общем количестве клиентов, это достаточно большая выборка, чтобы показать общие тенденции. И тенденция в случае Anthropic — восходящая.

 Источник изображения: Indagari

Источник изображения: Indagari

Проанализированные данные охватывают еженедельные транзакции с 2025 года по 10 мая 2026 года и включают платежи за такие товары, как подписки и оплату за API токены. Они показывают, что число платящих клиентов и доходы Claude растут месяц за месяцем. С января 2026 года они увеличились примерно на 75 %. Рост продолжался даже после того, как в марте компания зафиксировала резкий спрос со стороны потребителей, когда отказалась разрешить администрации президента США Дональда Трампа использовать свои ИИ-модели для массового наблюдения за американцами и создания автономного оружия.

 Источник изображения: Indagari

Источник изображения: Indagari

Ещё одним показателем растущей популярности Claude среди потребителей является DataCamp — онлайн-платформа для обучения навыкам для работы с ИИ потребителей и сотрудников предприятий, насчитывающая около 20 млн пользователей.

 Источник изображений: DataCamp

Источник изображений: DataCamp

Интерес к Claude среди потребителей на DataCamp резко возрос с начала года. «Claude» теперь является самым популярным поисковым запросом на сайте сервиса. Его используют даже чаще, чем термин «ИИ», сообщила платформа DataCamp изданию TechCrunch.

Хотя курсы ChatGPT по-прежнему гораздо популярнее среди компаний, проводящих корпоративное обучение, среди потребителей, самостоятельно изучающих Claude, спрос на курсы Claude в три раза превышает спрос на курсы ChatGPT, сообщает DataCamp. В том же сообщении говорится, что лишь за последние 30 дней спрос на курсы по Claude вырос в 18 раз.

Несмотря на впечатляющий рост Claude, ChatGPT по-прежнему остается самым популярным ИИ среди потребителей. Например, недавние данные аналитической компании Sensor Tower показывают, что Claude в этом году демонстрирует хороший рост на всех платформах, но всё ещё значительно отстаёт от ChatGPT.

 Источник изображения: Sensor Tower

Источник изображения: Sensor Tower

Данные Indagari показывают, что хотя рост популярности ChatGPT в последнее время был более скромным (в основном из-за его уже и так огромного охвата), у него все ещё гораздо больше платящих пользователей.

 Источник изображения: Indagari

Источник изображения: Indagari

Однако из анализа понятно, что в этом году Claude начал догонять ChatGPT по объёму привлечённых средств от потребителей, а также по общей осведомлённости и интересу потребителей.

 Источник изображения: Indagari

Источник изображения: Indagari

Пока все имеющиеся данные свидетельствуют о том, что Anthropic продолжает наращивать свою пользовательскую базу как среди обычных потребителей, так и среди корпоративных, даже несмотря на последнюю судебную тяжбу с правительством США. В начале этого месяца американское правительство запретило компании Anthropic предлагать использование своих самых мощных ИИ-моделей, ориентированных на кибербезопасность (Mythos 5 и Fable 5), не американцами, что вынудило компанию фактически удалить их с рынка.

Google продолжает терять ИИ-таланты — ещё двое исследователей ушли в Anthropic

Компания Google продолжает терять ценных сотрудников, и это уже становится поводом для беспокойства у инвесторов на бирже. Очередные двое исследователей решили перейти из поискового гиганта в один из двух крупнейших стартапов в области искусственного интеллекта.

 Источник изображения: BoliviaInteligente / unsplash.com

Источник изображения: BoliviaInteligente / unsplash.com

На сей раз из Google в Anthropic перешли ведущие исследователи в области ИИ Йонас Адлер (Jonas Adler) и Александр Притцель (Alexander Pritzel), узнал Bloomberg. Адлер и Притцель играли ключевые роли в разработке моделей Google Gemini.

Для Google исход сотрудников — тревожная тенденция. На минувшей неделе из компании ушёл в OpenAI легендарный исследователь Ноам Шазир (Noam Shazeer), который работал в Google с 2000 года — за исключением трёх лет, которые он посвятил стартапу Character.AI. Поисковый гигант фактически приобрёл этот стартап за $2,7 млрд, отчасти для того, чтобы вернуть ценного сотрудника в свои ряды.

Всего через несколько дней после этого в Anthropic перевёлся директор DeepMind Джон Джампер (John Jumper), который вместе с главой подразделения Демисом Хассабисом (Demis Hassabis) в 2024 году получил Нобелевскую премию за модель AlphaFold — она предсказывает трёхмерные структуры белков на основе последовательностей аминокислот.

Сейчас OpenAI и Anthropic готовятся выйти на биржу, и череда переводов может продолжиться: для двух компаний настало лучшее время, чтобы привлекать лучших специалистов в области ИИ, пообещав им долю в капитале.

Anthropic обвинила Alibaba в крупнейшей дистилляции Claude для обучения своих ИИ-моделей

Американский разработчик систем искусственного интеллекта Anthropic обвинил китайского технологического гиганта Alibaba в незаконном использовании возможностей модели Claude. Этот инцидент, подчеркнули в Anthropic, стал крупнейшей известной атакой подобного рода на компанию, передаёт Reuters со ссылкой на письмо разработчика.

 Источник изображения: anthropic.com

Источник изображения: anthropic.com

Действия Alibaba характеризуются как попытка «дистилляции» — обучения менее способной модели ИИ на ответах более способной. Атака производилась в период с 22 апреля по 5 июня и включала более 28,8 млн единиц обмена сообщениями с Claude, которое осуществляли почти 25 000 подставных учётных записей. При помощи дистилляции, говорят в Anthropic, Китай пытается ускорить освоение передовых возможностей Mythos. Кампанию провели операторы, предположительно связанные с Alibaba и её ИИ-отделом Qwen.

Свои соображения Anthropic изложила в письме, которое направила американским сенаторам. Компания выразила поддержку усилиям правительства страны в борьбе с кибератаками, включая партнёрство с частными компаниями, которые специализируются на искусственном интеллекте. В феврале Anthropic выдвинула аналогичные обвинения китайским DeepSeek (150 000 единиц обмена сообщениями), Moonshot AI (3,4 млн) и MiniMax (13 млн). Эти атаки, заявил разработчик, становятся всё более «интенсивными и изощрёнными», требуя соответствующих ответных мер.

Ранее Пентагон добавил Alibaba в список компаний, связанных с китайской армией, а DeepSeek удалось избежать этой участи, потому что ведомство пытается избежать эскалации напряжённости в отношениях с Пекином. И через два дня после отправки Anthropic письма компания была вынуждена закрыть доступ к своим передовым моделям Mythos и Fable.

Американский стартап подал в суд на власти США из-за отключения от Anthropic Fable 5

Прошло менее двух недель с того момента, как Anthropic была вынуждена ограничить доступ к своим передовым ИИ-моделям Mythos 5 и Fable 5 по требованию американских властей. Пока ситуация с регулированием доступа к ним для иностранных граждан не разрешена, среди клиентов Anthropic уже находятся недовольные действиями властей США, и они подают на них в суд.

 Источник изображения: Anthropic

Источник изображения: Anthropic

По крайней мере, Bloomberg рассказывает об одном таком случае. Формально зарегистрированный в США стартап Legion, который специализируется на разработке ИИ-инструментов для работников юридической сферы, опирается на канадских разработчиков ПО, которые находятся в Канаде. С учётом требований властей США, это не позволяет стартапу Legion сохранить доступ к ИИ-модели Fable 5. Продолжать разработку программных продуктов для Legion в таких условиях становится проблематично, поэтому компания на этой неделе подала иск к правительству США в федеральном суде американской столицы.

В качестве ответчика в иске упоминается министр торговли США Говард Лютник (Howard Lutnick), который и отдал распоряжение блокировать доступ к Mythos 5 и Fable 5 иностранных граждан. Legion в своём иске жалуется на то, что утратила доступ к активно используемому в процессе разработки своего ПО инструменту в самый разгар процесса, и стартап понёс непоправимый ущерб, который угрожает самому его существованию. Каждый день без доступа к Fable 5, по словам истца, «размывает шансы компании на выживание».

Представители Anthropic ситуацию прокомментировали лишь выражением признательности американскому правительству, которое прилагает максимум усилий к решению проблемы в сжатые сроки. Сооснователь и генеральный директор Legion Артур Ротрок (Arthur Rothrock) заявил, что счёл необходимым подать иск, поскольку убеждён, что действия американских властей создают опасный юридический прецедент. По его словам, подобным образом власти США в любой момент могут предпринять аналогичные действия в отношении любой другой компании типа OpenAI.

Anthropic Mythos за считанные часы взломала почти все секретные системы АНБ США

Передовая модель искусственного интеллекта Anthropic Mythos за несколько часов во время контролируемой оценки безопасности смогла взломать «почти все» секретные системы Агентства национальной безопасности (АНБ) — одного из самых высокопоставленных и влиятельных разведывательных агентств в США, пишет The Economist.

 Источник изображения: anthropic.com

Источник изображения: anthropic.com

Об инциденте рассказал сенатор Марк Уорнер (Mark Warner), зампредседателя Комитета по разведке в верхней палате конгресса, со ссылкой на главу АНБ и Киберкомандования США генерала Джошуа Радда (Joshua Rudd). Первоначально сообщение об этом было опубликовано 14 июня, и впоследствии распространилось в соцсетях с утверждением, что Anthropic «взломала АНБ». В действительности это было санкционированное внутреннее тестирование, в ходе которого Mythos использовалась совместно с другими средствами в условиях, максимально приближённых к реальным.

История проливает свет на распоряжение американских властей от 12 июня, согласно которому Anthropic надлежало заблокировать доступ к моделям Fable 5 и Mythos 5 для всех лиц, не являющихся гражданами США, в том числе для сотрудников самой компании — та вообще изъяла их из общего доступа. Испытания проводились накануне, 11 июня; это, по утверждениям Anthropic, был «узкий взлом». Модель просто проанализировала базу кода с целью исправить выявленные проблемы, в результате чего были обнаружены несколько незначительных, уже известных ошибок — полноценного наступательного вторжения не было. Сейчас Anthropic, по её словам, пытается восстановить доступ к системе и совместно с чиновниками Белого дома готовит систему совместного управления рисками.

Инцидент разделил общественность на три лагеря. Первые говорят о неспособности правительства нанимать достаточно квалифицированных специалистов в области кибербезопасности. Вторые считают заявления Anthropic преувеличенной сенсацией или маркетинговым шагом, указывая на отсутствие подробностей о предполагаемом взломе и ставя под сомнение техническую компетентность главы АНБ. Третьи напоминают, что возможности моделей ИИ резко выросли — сроки развёртывания атак сократились с нескольких часов до нескольких минут, и даже в поддерживаемых проектах с открытым исходным кодом обнаруживается большое число уязвимостей.

Anthropic тем временем продолжает тесно сотрудничать с АНБ в рамках программы Project Glasswing. Несколько сотрудников компании работают прямо в ведомстве, адаптируя и настраивая Mythos для конкретных задач.

Anthropic договорилась с Micron об инвестициях и гарантированных поставках памяти

В долгосрочных контрактах заинтересованы не только поставщики памяти, но и их клиенты. В этом смысле подписанное недавно Micron Technology и Anthropic соглашение о стратегическом сотрудничестве не вызывает удивления. Первая из компаний не только вкладывает свои средства в капитал Anthropic, но и гарантирует определённые объёмы поставок микросхем памяти и изделий на их основе.

 Источник изображения: Micron Technology

Источник изображения: Micron Technology

Директор по вычислениям и один из основателей Anthropic Том Браун (Tom Brown) признал, что микросхемы памяти и накопители являются важными звеньями инфраструктуры, обеспечивающей эффективность обучения и обслуживания ИИ-модели Claude. За последние месяцы стартапу удалось заключить ряд важных соглашений как с провайдерами вычислительных ресурсов типа CoreWeave и SpaceX, так и поставщиками полупроводниковых компонентов типа Broadcom, а теперь и Micron Technology.

Сотрудничество с Anthropic позволит Micron лучше понять, как ведёт себя поставляемая компанией память в условиях вычислительных нагрузок, связанных с искусственным интеллектом. Сама Micron внутри компании тоже применяет ИИ-модели Anthropic семейства Claude, как в административной сфере, так и в производственной, а также в сфере разработки программного и аппаратного обеспечения. Первого июня Anthropic сообщила о подаче заявки на IPO в США, а до этого поведала о привлечении от инвесторов $65 млрд. Micron оказалась в числе этих инвесторов, но размер своего вклада в капитал Anthropic не раскрывает. Также не уточняется, сколько Micron получит от Anthropic в рамках долгосрочного контракта на поставку микросхем и накопителей данных.

«Накаркали»: в запрете своих ИИ-моделей виноваты сами представители Anthropic, как убеждены эксперты

В конце прошлой недели Anthropic столкнулась с запретом на использование её ИИ-моделей Mythos 5 и Fable 5 иностранными гражданами, но трудности в столь избирательном ограничении вынудили её полностью закрыть доступ к указанным моделям. Эксперты считают, что руководство Anthropic само «накаркало» такой исход, поскольку слишком много говорило об исходящих от ИИ рисках.

 Источник изображения: Anthropic

Источник изображения: Anthropic

Издание Financial Times отмечает, что термины, связанные с рисками, в текущем году упоминались в пяти случаях на каждые 1000 слов, опубликованных представителями Anthropic в официальных заявлениях и публикациях в социальных сетях или корпоративном блоге. Глава OpenAI Сэм Альтман (Sam Altman) в своих публикациях в этом году подобные слова использовал только в 0,6 случаях на 1000 слов.

Ян Лекун (Yann LeCun), который ранее работал над созданием ИИ в Meta✴, на этой неделе признался, что экспортные запреты в отношении ИИ-моделей Anthropic стали итогом «нелепого нагнетания страха» самим главой Anthropic Дарио Амодеи (Dario Amodei). Как отметил Лекун в социальных сетях на этой неделе, «что посеешь, то и пожнёшь». Европейские союзники США уже выразили своё беспокойство по поводу ограничения доступа к передовым американским ИИ-моделям.

Сотрудники редакции Financial Times подсчитали, что Дарио Амодеи и его коллеги по Anthropic в своих высказываниях по поводу ИИ в текущем году употребляли слово «риск» 336 раз, «меры безопасности» — 121 раз, «уязвимость» — 128 раз. Из уст представителей OpenAI те же слова в этом году звучали всего 30, 33 и 10 раз соответственно. Альтман в апреле язвительно прокомментировал методы продвижения ИИ-модели Mythos: «Это невероятный маркетинговый ход — заявить, что мы разработали бомбу и собираемся сбросить её вам на голову».

Anthropic в целом активно обсуждает меры регулирования в сфере ИИ, включая возможность государственного вмешательства. За день до введения запрета на доступ к Mythos 5 и Fable 5 Амодеи опубликовал длинный пост в личном блоге, в котором рассуждал о слишком медленном формировании мер по регулированию ИИ. Он подчёркивал, что Mythos продемонстрировала «весьма реальные риски для кибербезопасности». Но самой насыщенной отсылками к рискам публикацией стала статья от апреля 2025 года, в которой Anthropic рассуждала об опасных проявлениях ИИ. В этом материале концентрация негативных коннотаций в три раза превысила обычный уровень.

Тем не менее, с 2023 года Anthropic заметно смягчила тон при описании подобных рисков, соответствующие ключевые слова стали использоваться в два раза реже по мере роста популярности её ИИ-моделей. Количество новостных публикаций о Mythos с апреля этого года оказалось значительно выше материалов, посвящённых ИИ-моделям других разработчиков, вышедших в этом году. Запрет на доступ к Mythos 5 и Fable 5 на прошлой неделе дополнительно увеличил частоту упоминаний этих моделей независимыми новостными источниками.

По словам бывшего главы правительственного ведомства США по вопросам ИИ Дэвида Сакса (David Sacks), стартап Anthropic сам противился введению послаблений на использование Fable 5, на котором настаивали организации, пользующиеся доверием американских властей. Итогом подобной «саморазрушительной» деятельности стал поголовный запрет на доступ к ИИ-моделям Anthropic профильной направленности. Независимые эксперты отмечают, что со стороны поведение властей США кажется не очень последовательным. Сперва американское правительство ратует за активное развитие инфраструктуры ИИ и даже критикует излишнюю зацикленность на регулировании в сфере безопасности, а потом резко меняет курс и вводит запрет на использование самой передовой американской ИИ-модели.

Трамп перестал считать Anthropic угрозой нацбезопасности США

Президент США Дональд Трамп (Donald Trump) заявил в интервью Axios, что не считает Anthropic угрозой национальной безопасности страны. Администрация главы государства приняла меры, чтобы ограничить доступ иностранных граждан к передовым моделям искусственного интеллекта, разработанным этой технологической компанией.

 Источник изображения: Library of Congress / unsplash.com

Источник изображения: Library of Congress / unsplash.com

Предписание властей — это вызов для Anthropic и её бренда, который ориентирован на безопасность ИИ. В соответствии с распоряжением правительства Anthropic решила полностью изъять передовые модели из общего доступа. Компания, по мнению Трампа, «повела себя очень ответственно», когда Министерство торговли заявило, что ей требуется получать одобрение, прежде чем давать иностранным гражданам доступ к моделям Fable 5 и Mythos 5. «[Гендиректор Anthropic Дарио Амодеи (Dario Amodei)] очень быстро отреагировал на наш запрос, потому что, как вы знаете, это огромная угроза», — заявил Трамп и добавил, что встречался с Амодеи и другими руководителями технологических компания на саммите «Большой семёрки» во Франции.

На вопрос, считает ли он Anthropic и Амодеи лично угрозой национальной безопасности, президент ответил: «Ну, не сейчас. Но неделю назад — возможно». Распоряжение Министерства торговли стало наиболее значительным вмешательством правительства США в деятельность компаний, которые занимаются разработкой ИИ. И это серьёзное осложнение для Anthropic, которая ранее подала заявку на первичное публичное размещение акций; последняя её оценка составляла $900 млрд. На этой неделе высокопоставленные технические специалисты Anthropic встречались с представителями Трампа — компания с самого начала стремилась развеять опасения правительства.

Президент заявил, что не намерен закрывать Anthropic, потому что США опережают Китай в гонке технологий ИИ. «Я бы мог, но не уверен, что это требуется. По-моему, пока компания действовала очень ответственно», — признал глава государства. Anthropic уже не первый месяц находится в состоянии конфликта с Пентагоном из-за ограничений, которые наложила на свои модели при их использовании в военных целях. В марте, когда переговоры по контракту сорвались, Министерство обороны объявило компанию угрозой в цепочке поставок и сообщило о намерении привлечь других поставщиков ИИ для вооружённых сил.


window-new
Soft
Hard
Тренды 🔥
Кризис Xbox поставил под угрозу закрытия Obsidian — студию в ответе за Fallout: New Vegas, Pillars of Eternity и South Park: The Stick of Truth 11 мин.
Toyota собирается при помощи ИИ навести порядок в своей документации и терминологии 35 мин.
Некоторые смартфоны Google Pixel перестали издавать звуки, когда на них звонят 46 мин.
В сервисе Apple Hide My Email обнаружена уязвимость, позволяющая раскрыть настоящий адрес почты 57 мин.
Anthropic удалила из Claude скрытую защиту от дистилляции ИИ-моделей китайскими разработчиками 2 ч.
Представлено решение Curator.Scanner для поиска уязвимостей во внешней IT-инфраструктуре 3 ч.
Власти США предложили разработчикам ИИ создать единые стандарты для моделей 3 ч.
Нашумевшее скандинавское выживание Valheim на релизе подорожает в полтора раза и другие детали обновления 1.0 4 ч.
Министерство юстиции Бразилии рассекретило продолжение легендарной серии Nintendo 5 ч.
ИИ и дипфейки используются в каждой восьмой успешной мошеннической схеме 5 ч.
Инвестиции с кешбэком: NVIDIA вкладывается в создание ИИ-инфраструктуры партнёров в обмен на доход от её эксплуатации 27 мин.
Weave представила бытового робота Isaac 1 — он будет наводить порядок, пока хозяев нету дома 32 мин.
Будущая Xbox Project Helix, вероятно, будет лишена дисковода 40 мин.
В центре Москвы открыли новый флагманский магазин Xiaomi Store 43 мин.
Getty Images отказалась поглощать Shutterstock — помешал британский регулятор 44 мин.
Intel без лишнего шума подняла рекомендованные цены Core Ultra 7 270K Plus и Core Ultra 5 250K Plus 50 мин.
Microsoft сняла с производства бюджетные Surface Go и Surface Laptop Go — вместо них предлагает Dell XPS 13 53 мин.
Oracle признала, что может прогореть на ИИ ЦОД, но пути назад уже нет 2 ч.
Первую в мире систему хранения энергии на сжатом углекислом газе построят в Ирландии 2 ч.
Noctua обновила план выпуска продуктов — новые БП и кулеры для AM5 выйдут в 2027 году 3 ч.