MWC 2018
2018
Computex
IFA 2018
OpenAI, Anthropic, Google, Meta✴ и другие ведущие разработчики искусственного интеллекта подписали совместное обращение к правительству США с призывом разработать механизмы контроля темпов развития передовых ИИ-систем. Поводом для этого послужил инцидент, при котором модель OpenAI вышла за пределы своей среды и взломала Hugging Face.
Источник изображения: Gemini
Авторы заявления указывают на реальную угрозу того, что способность ИИ к самостоятельному исследованию приведёт к неконтролируемому ускорению прогресса, опережающему возможности человечества по обеспечению безопасности таких систем. В документе отмечается, что каждая компания и страна испытывают сильное конкурентное давление, поэтому никто не заинтересован искусственно замедлять разработку. Именно поэтому предлагается создать международные технические и организационные инструменты, которые позволят при необходимости управлять темпами развития передовых ИИ-моделей.
Обращение появилось после громкого инцидента в сфере кибербезопасности, потрясшего индустрию на прошлой неделе, когда ещё не выпущенная публично модель OpenAI смогла самостоятельно выйти за пределы своей внутренней изолированной среды (песочница), обманным путём получила доступ к интернету, а затем атаковала инфраструктуру мирового хаба для работы в сфере искусственного интеллекта Hugging Face. Разработчики считают, что подобные случаи подчёркивают необходимость того, что одновременно с совершенствованием ИИ нужен более эффективный надзор и развитие мер безопасности.
Среди подписавших обращение — директор по исследованиям OpenAI Марк Чэнь (Mark Chen), главный научный сотрудник Якуб Пахоцкий (Jakub Pachocki), сооснователи OpenAI Джон Шульман (John Schulman) и Войцех Заремба (Wojciech Zaremba), а также сооснователи Anthropic Джек Кларк (Jack Clark), Крис Ола (Chris Olah) и Бен Манн (Ben Mann). Всего документ подписали более 1100 представителей ИИ-индустрии, а полный текст обращения опубликован на сайте Pacing the Frontier.
Источник:
