Сегодня 17 ноября 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

ИИ ускорил развитие моделей Anthropic почти вдвое —  самосовершенствование создаёт новые риски

Независимое исследование показало, что модели искусственного интеллекта компании Anthropic начали совершенствоваться почти в два раза быстрее, чем раньше, благодаря использованию ИИ для создания собственных более мощных версий. Это подтверждает опасения экспертов о том, что темпы развития ИИ могут опережать усилия по оценке связанных с ним рисков.

 Источник изображения: Anthropic

Источник изображения: Anthropic

Выводы некоммерческой организации METR (Model Evaluation and Threat Research), занимающейся вопросами безопасности ИИ, были опубликованы в четверг. Как пишет Reuters, эксперты называют эти данные одними из самых чётких доказательств того, что технологии вплотную подошли к рекурсивному самосовершенствованию (RSI), при котором ИИ сможет создавать новые версии себя полностью без участия человека.

В ходе 11-недельного исследования, проводившегося с августа по октябрь и опиравшегося на конфиденциальные материалы, интервью и данные о производительности ещё не выпущенных моделей, было установлено, что показатели эффективности моделей Anthropic при решении определённых задач растут в 1,9 раза быстрее, чем в период до октября 2025 года.

«По состоянию на октябрь 2026 года компания Anthropic, вероятно, повышает возможности своих моделей в решении конкретных задач примерно в два раза быстрее, чем это происходило в период с марта 2024 года по октябрь 2025 года. Эта оценка сопряжена с высокой степенью неопределённости. Нас не удивит, если фактический показатель ускорения окажется ближе к 1,5 или 2,5 от прежних темпов», — заявили в METR.

В отчёте также говорится, что на данный момент ИИ ещё не способен вносить полностью автономный и значимый вклад в ключевые этапы обучения моделей.

Исследователи Anthropic сообщают о резком росте продуктивности благодаря использованию ИИ для написания программного кода и проведения экспериментов. Согласно неофициальным опросам сотрудников, эффективность выросла примерно в 12 раз, однако в METR подчеркнули, что эти цифры не являются достоверными. Эксперты также выразили полную уверенность в том, что текущий скачок развития «не был связан с ускорением масштабирования вычислительных мощностей, используемых для обучения».

Технологический сдвиг происходит на фоне подготовки базирующейся в Сан-Франциско компании к выходу на биржу. Это может стать одним из крупнейших IPO в истории и серьёзной проверкой интереса инвесторов к компаниям в сфере ИИ, которые тратят миллиарды долларов на развитие данной технологии.

Вместе с тем перспектива рекурсивного самосовершенствования систем ИИ в последние месяцы стала поводом для предостережений со стороны исследователей в области искусственного интеллекта. Такие системы могут оказаться трудно поддающимися согласованию с человеческими целями, а также сложными в плане мониторинга и контроля, что потенциально создаёт экзистенциальную угрозу для человечества. Примечательно, что в сентябре сам генеральный директор Anthropic публично призывал замедлить темпы разработки передового ИИ.

Было интересно? Скажите об этом Google, чтобы чаще получать ссылки на наши новости про искусственный интеллект

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
От Ikea до Zoom: хакеры скомпрометировали популярные сайты по всему миру 44 мин.
Взломщик Rockstar предстал перед судом и признал вину за массовую утечку GTA VI — студия потеряла из-за него миллионы долларов 2 ч.
Россияне массово жалуются на сбои Google, Deepseek, Twitch, Discord и «Ростелекома» 3 ч.
«123456» снова стал самым популярным паролем в мире — седьмой год подряд 3 ч.
Китай поставил дистилляцию американских ИИ-моделей на промышленный поток 5 ч.
Новые отражения, улучшенное освещение и «полностью оптимизированный» Зен: для Black Mesa вышло крупнейшее обновление за последние годы 8 ч.
Alibaba показала ИИ, который сам создаёт игры в Unreal Engine и Unity, запускает их и исправляет ошибки 8 ч.
OpenAI ответит в суде за своих сорвавшихся с поводка ИИ-агентов — прокуроров заинтересовал взлом Hugging Face 17 ч.
Календарь релизов — 16–22 ноября: GTA VI и Goat Simulator 3 — Ticket to Dizzyworld 17 ч.
У iPhone Duo появилось распознавание лиц для разблокировки — даже без Face ID 19 ч.
Curator: в преддверии Черной пятницы активность вредоносных ботов выросла на 20 % 32 мин.
OpenAI арендует у TensorWave 457 МВт ИИ-мощностей на базе AMD Instinct 3 ч.
Платформа NVIDIA Vera Rubin обошла конкурентов во всех тестах MLPerf Training v6.1 3 ч.
Иран, Казахстан и Туркменистан достигли предварительной договорённости о строительстве совместного цифрового коридора 3 ч.
Кремниевая фотоника и Xeon нового поколения: Intel рассказала о разработках в области ИИ и НРС 3 ч.
Cornelis представила сетевую платформу CN6000 с поддержкой 800G 3 ч.
Ни актеров, ни съёмок, ни кассовых сборов — созданный ИИ китайский блокбастер провалился в прокате 3 ч.
Стебли лотоса оказались источником нескончаемой энергии — нужно только добавить воды и бактерий 5 ч.
США запустили уголовное расследование в отношении Megaspeed, которую возглавляла любовница Хуанга 6 ч.
AMD захватила 40 % рейтинга мощнейших суперкомпьютеров TOP500 — новый Lux дебютировал на 14-м месте 8 ч.