Сегодня 17 ноября 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

«Мы явно не на верном пути»: исследователь Anthropic предупредил о риске уничтожения человечества ИИ с вероятностью 10 %

Ведущий научный сотрудник компании Anthropic Эван Хабингер (Evan Hubinger) сообщил в соцсети X, что он и его коллеги искренне верят, что искусственный интеллект может уничтожить всех людей, и что в следующем десятилетии вероятность такого исхода, по его оценкам, превысит 10 %.

 Источник изображения: Anthropic

Источник изображения: Anthropic

По словам Хабингера, несмотря на все предпринимаемые усилия, у компании пока нет плана решения проблемы «выравнивания для сверхразума», и она «явно не на верном пути» к этому. Своё заявление Хабингер опубликовал после сообщения другого исследователя Джейкоба Коксона (Jacob Coxon) о решении покинуть компанию из-за проблем с безопасностью искусственного интеллекта.

27-летний Коксон отметил, что он занимался предварительным обучением в OpenAI и Anthropic, и назвал действия обеих компаний безответственными, поскольку они движутся «прямиком к самосовершенствующемуся суперинтеллекту, рискуя своими жизнями». Он добавил, что люди, создающие искусственный интеллект, считают, что он может «убить нас всех к концу десятилетия», и это вовсе не «маркетинговый ход».

В своём посте, посвященном предупреждению Коксона, Хабингер привёл последний отчёт о рисках Anthropic, отметив, что угроза, исходящая от существующих моделей, всё же невелика, и подчеркнул: «Что меня беспокоит, так это сверхразум, возникающий в результате рекурсивного самосовершенствования, которое, как мы уже говорили, происходит быстрее, чем мы думали».

Об опасностях, связанных с рекурсивным самосовершенствованием, которое позволяет ускорить разработку ИИ, предупреждал главный научный сотрудник OpenAI Якуб Пачоцки (Jakub Pachocki), выступивший с призывом замедлить развитие ИИ из-за риска выхода агентов из-под контроля. Пачоцки в числе ряда ведущих представителей ИИ-индустрии подписал в июле заявление под названием «Шагая по границе» (Pacing the Frontier). В нём указано, что для «реализации потенциала ИИ-индустрии правительству и обществу в целом может потребоваться возможность выиграть время для устранения возникающих рисков, разработки мер безопасности и усиления надзора». В петиции также содержится призыв к правительству США поддержать «международные усилия по разработке технических инструментов и инструментов управления, необходимых для осознанного продвижения вперед в области автоматизированного развития искусственного интеллекта».

Было интересно? Скажите об этом Google, чтобы чаще получать ссылки на наши новости про искусственный интеллект

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Японский суперкомпьютер Fugaku взломали через страницу мониторинга 43 мин.
Разработчики космического боевика Exodus в духе Mass Effect впервые показали женскую версию главного героя, и игроки в восторге 2 ч.
Meta запустила Direct — мессенджер Instagram без самого Instagram 2 ч.
Теперь и перепройти можно: ролевой боевик The Blood of Dawnwalker от ветеранов The Witcher 3 и Cyberpunk 2077 получил патч 1.2 с «Новой игрой +» 3 ч.
Microsoft не обманула: независимые тесты подтвердили ускорение Windows 11 на системах с 8 Гбайт памяти 4 ч.
Sony отбилась от иска на £2 млрд в Великобритании — компанию обвиняли в завышении цен на игры в PlayStation Store 4 ч.
Моддер запустил классическую Doom на флешке — игра выдаёт 13 кадров/с, а управляется копированием файлов 5 ч.
От Ikea до Zoom: хакеры скомпрометировали популярные сайты по всему миру 7 ч.
Взломщик Rockstar предстал перед судом и признал вину за массовую утечку GTA VI — студия потеряла из-за него миллионы долларов 8 ч.
Россияне массово жалуются на сбои Google, Deepseek, Twitch, Discord и «Ростелекома» 8 ч.
Вентилятор, на котором можно играть в игры: Thermaltake представила Swafan Ultra 120 EX RGB с IPS-экраном 10 мин.
Учёные придумали «солнечный LEGO» — разноцветные строительные блоки, способные вырабатывать электричество 16 мин.
AWS продаст Blackstone два кампуса ЦОД и тут же арендует их 30 мин.
Дженсен Хуанг заявил, что для него «будет честью» вернуться на должность главы Nvidia 2 ч.
Хакерский карманный Linux-компьютер Flipper One стал доступен для заказа за $399 2 ч.
Ровер NASA Perseverance обнаружил на Марсе «призрачные» камни — на Земле такие прячут следы древней микробной жизни 2 ч.
Apple начала продавать запчасти и инструменты для самостоятельного ремонта iPhone Duo 3 ч.
После скандала Nvidia взяла экспорт чипов под особый контроль — в компании создали комитет по нацбезопасности 5 ч.
Нордическая ИИ-гигафабрика: Финляндия, Эстония, Латвия и Швеция вместе построят распределённую ИИ-инфраструктуру 5 ч.
Lambda развернула CPO-коммутаторы NVIDIA Quantum-X 5 ч.