MWC 2018
2018
Computex
IFA 2018
Независимое исследование показало, что модели искусственного интеллекта компании Anthropic начали совершенствоваться почти в два раза быстрее, чем раньше, благодаря использованию ИИ для создания собственных более мощных версий. Это подтверждает опасения экспертов о том, что темпы развития ИИ могут опережать усилия по оценке связанных с ним рисков.
Источник изображения: Anthropic
Выводы некоммерческой организации METR (Model Evaluation and Threat Research), занимающейся вопросами безопасности ИИ, были опубликованы в четверг. Как пишет Reuters, эксперты называют эти данные одними из самых чётких доказательств того, что технологии вплотную подошли к рекурсивному самосовершенствованию (RSI), при котором ИИ сможет создавать новые версии себя полностью без участия человека.
В ходе 11-недельного исследования, проводившегося с августа по октябрь и опиравшегося на конфиденциальные материалы, интервью и данные о производительности ещё не выпущенных моделей, было установлено, что показатели эффективности моделей Anthropic при решении определённых задач растут в 1,9 раза быстрее, чем в период до октября 2025 года.
«По состоянию на октябрь 2026 года компания Anthropic, вероятно, повышает возможности своих моделей в решении конкретных задач примерно в два раза быстрее, чем это происходило в период с марта 2024 года по октябрь 2025 года. Эта оценка сопряжена с высокой степенью неопределённости. Нас не удивит, если фактический показатель ускорения окажется ближе к 1,5 или 2,5 от прежних темпов», — заявили в METR.
В отчёте также говорится, что на данный момент ИИ ещё не способен вносить полностью автономный и значимый вклад в ключевые этапы обучения моделей.
Исследователи Anthropic сообщают о резком росте продуктивности благодаря использованию ИИ для написания программного кода и проведения экспериментов. Согласно неофициальным опросам сотрудников, эффективность выросла примерно в 12 раз, однако в METR подчеркнули, что эти цифры не являются достоверными. Эксперты также выразили полную уверенность в том, что текущий скачок развития «не был связан с ускорением масштабирования вычислительных мощностей, используемых для обучения».
Технологический сдвиг происходит на фоне подготовки базирующейся в Сан-Франциско компании к выходу на биржу. Это может стать одним из крупнейших IPO в истории и серьёзной проверкой интереса инвесторов к компаниям в сфере ИИ, которые тратят миллиарды долларов на развитие данной технологии.
Вместе с тем перспектива рекурсивного самосовершенствования систем ИИ в последние месяцы стала поводом для предостережений со стороны исследователей в области искусственного интеллекта. Такие системы могут оказаться трудно поддающимися согласованию с человеческими целями, а также сложными в плане мониторинга и контроля, что потенциально создаёт экзистенциальную угрозу для человечества. Примечательно, что в сентябре сам генеральный директор Anthropic публично призывал замедлить темпы разработки передового ИИ.
Источник:
