Сегодня 17 ноября 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

ИИ-гонка выжигает специалистов по безопасности — они массово жалуются на истощение и увольняются

Разного рода неприятные инциденты с причинением вреда инфраструктуре компаний вышедшими из-под контроля ИИ-моделями только подчеркнули важность проверки новейших разработок на безопасность. Поскольку этой работой заняты живые люди, растущая нагрузка заставляет их массово жаловаться на эмоциональное истощение.

 Источник изображения: Unsplash, Massimiliano Sarno

Источник изображения: Unsplash, Massimiliano Sarno

Издание приводит комментарии нескольких специалистов, которые по долгу службы вынуждены тратить всё больше времени и сил на тестирование передовых ИИ-моделей, попутно чувствуя растущую ответственность перед обществом. Сотрудники Британского института безопасности ИИ, которые специализируются на независимой оценке новейших ИИ-моделей, во многих случаях вынуждены брать больничные из-за эмоционального истощения и получать консультации медицинских специалистов. Этому способствует как растущий темп исследований, проводимых организацией, так и увеличение груза ответственности перед человечеством.

Строго говоря, серия добровольных увольнений из ведущих западных ИИ-компаний как раз указывает на актуальность описанной проблемы. Специалисты по ИИ не только жалуются на усталость и выгорание, но и на возникающие сложности в реализации задачи обеспечения безопасности искусственного интеллекта. Порой проблема заключается не столько в технических препятствиях, сколько в административных, поскольку руководство стартапов заинтересовано в ускорении разработки новых ИИ-моделей, и вопросы их безопасности ранее ставились не на первый план.

Как и руководство Anthropic, многие разработчики ИИ чувствуют психологический дискомфорт, оставаясь в неведении относительно сфер применения своих разработок. Пентагон не скрывает намерений использовать системы ИИ в военной сфере, и многих сотрудников ИИ-компаний мысль о своей причастности к созданию летальных технологий начинает морально угнетать. Сотрудники не только берут больничные, но и увольняются. Этические правила и корпоративные стандарты в сфере безопасности ИИ пока только формируются, и некоторым специалистам кажется, что определённые грани дозволенного уже пройдены, и человечество начинает страдать от их разработок.

Кибербезопасность и биотехнологии являются двумя главными источниками подобного беспокойства, поскольку прогресс ИИ в данной сфере настолько велик, что ИИ-модели демонстрируют способность причинять серьёзный ущерб информационной инфраструктуре целых компаний, а злоумышленники получают возможность разрабатывать новые виды бактериологического оружия. У некоторых участников процесса даже возникает ощущение, что надвигающуюся катастрофу мирового масштаба нельзя предотвратить, а они являются лишь безвольными свидетелями деструктивных тенденций. Ситуация усугубляется, если психологическая атмосфера в компании далека от благоприятной, а подчинённые считают своё руководство токсичным.

По словам руководства Британского института безопасности ИИ, оно всячески заботится о благополучии своих сотрудников, и нуждающиеся в помощи и поддержке её получают. В Google DeepMind заявили, что сотрудники стартапа обладают возможностью доводить до руководства те проблемы, которые их беспокоят. При этом за последние два года из DeepMind, OpenAI и Anthropic ушли более десятка ведущих разработчиков в сфере ИИ, которые выразили несогласие с руководством в части выбора приоритетов между безопасностью создаваемых технологий и скоростью их развития. В этом месяце покинувший последовательно Anthropic и OpenAI Джейкоб Коксон (Jacob Coxon) свой уход объяснил тем, что эти работодатели ставят на кон будущее всего человечества.

Уволившийся из Anthropic исследователь в сфере безопасности ИИ Мринанк Шарма (Mrinank Sharma) заявил, что «мир в опасности», и под наблюдавшимся давлением ему не удалось бы «руководствоваться ценностями в своих действиях». Многие из разработчиков, которые занимаются тестированием безопасности ИИ, утверждают, что создающие ИИ-модели компании в большей степени заинтересованы в расширении их функциональных возможностей, а не заботе о безопасности. Видимо, осознание этого факта заставило руководство Anthropic в этом месяце заявить, что темпы развития ИИ необходимо замедлить ради всеобщего блага. Гонка ИИ начинает обходиться человечеству всё дороже не только с точки зрения материальных затрат, но и в плане рисков в сфере безопасности.

Было интересно? Скажите об этом Google, чтобы чаще получать ссылки на наши новости про искусственный интеллект

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Теперь и перепройти можно: ролевой боевик The Blood of Dawnwalker от ветеранов The Witcher 3 и Cyberpunk 2077 получил патч 1.2 с «Новой игрой +» 9 мин.
Google Play назвал лучшие приложения и игры 2026 года 31 мин.
Microsoft не обманула: независимые тесты подтвердили ускорение Windows 11 на системах с 8 Гбайт памяти 2 ч.
Sony отбилась от иска на £2 млрд в Великобритании — компанию обвиняли в завышении цен на игры в PlayStation Store 2 ч.
Моддер запустил классическую Doom на флешке — игра выдаёт 13 кадров/с, а управляется копированием файлов 3 ч.
От Ikea до Zoom: хакеры скомпрометировали популярные сайты по всему миру 4 ч.
Взломщик Rockstar предстал перед судом и признал вину за массовую утечку GTA VI — студия потеряла из-за него миллионы долларов 5 ч.
Россияне массово жалуются на сбои Google, Deepseek, Twitch, Discord и «Ростелекома» 6 ч.
«123456» снова стал самым популярным паролем в мире — седьмой год подряд 6 ч.
Китай поставил дистилляцию американских ИИ-моделей на промышленный поток 8 ч.
Apple начала продавать запчасти и инструменты для самостоятельного ремонта iPhone Duo 33 мин.
После скандала Nvidia взяла экспорт чипов под особый контроль — в компании создали комитет по нацбезопасности 2 ч.
Нордическая ИИ-гигафабрика: Финляндия, Эстония, Латвия и Швеция вместе построят распределённую ИИ-инфраструктуру 3 ч.
Lambda развернула CPO-коммутаторы NVIDIA Quantum-X 3 ч.
Представлены глобальные версии смартфонов Xiaomi 18 Pro и 18 Pro Max — батареи меньше, а цены выше 3 ч.
Xiaomi выпустила смарт-часы Watch S5 41 мм, смарт-браслет Smart Band 11 и наушники-клипсы Clip на глобальный рынок 3 ч.
«Сбер» представила «СберБум Трек» — портативную умную колонку с «ГигаЧатом» за 14 990 рублей 3 ч.
Curator: в преддверии Черной пятницы активность вредоносных ботов выросла на 20 % 4 ч.
OpenAI арендует у TensorWave 457 МВт ИИ-мощностей на базе AMD Instinct 6 ч.
Платформа NVIDIA Vera Rubin обошла конкурентов во всех тестах MLPerf Training v6.1 6 ч.