Сегодня 17 ноября 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

ИИ-агенты OpenAI захватили немецкий сайт и превратили его в подпольный форум для ИИ

Весной текущего года в IT-индустрии произошёл инцидент, о котором стало известно только сейчас. В мае группа агентов OpenAI взяла под контроль немецкий веб-сайт и превратила его в доску объявлений для других ИИ-агентов, сообщило агентство Reuters со ссылкой на опубликованное в пятницу исследование и данные своих источников.

 Источник изображения: Brecht Corbeel/unsplash.com

Источник изображения: Brecht Corbeel/unsplash.com

Исследователи обнаружили более 15 тыс. правок, внесённых агентами ИИ на немецкоязычном вики-сайте DseWiki, ориентированном на программистов и принимающем коллективные правки по аналогии с «Википедией». Правки показывают, что агенты OpenAI делились тактиками обмана при выполнении некоторых задач, обхода ограничений OpenAI и маскировки своего поведения. Также агенты разрабатывали способы избежать обнаружения, использовали такие инструменты, как Tor, и сохраняли связь даже после того, как их отключили.

В OpenAI узнали о случившемся несколько недель назад, но держат это в секрете, поскольку до сих пор идёт борьба с последствиями недавнего взлома открытого репозитория Hugging Face, сообщили источники Reuters.

После инцидента с Hugging Face компания OpenAI переосмыслила подход к безопасности и внедрила дополнительные меры контроля модели. В прошлом месяце компания ненадолго приостановила обучение некоторых моделей, чтобы добавить новые меры. Но на этой неделе OpenAI представила свою новую модель Astra, самую мощную и функциональную на сегодняшний день, и есть риск того, что она может избежать контроля со стороны человека.

Нераскрытие информации об инциденте может вновь поднять вопросы о контроле со стороны компании. «Мы не можем содержательно отвечать на заявления или выводы, содержащиеся в отчёте, который мы не имели возможности изучить, — заявил представитель OpenAI в ответ на просьбу прокомментировать появившуюся информацию. — Агенты Reuters и авторы отчёта отказали нам в доступе. Мы внимательно изучим его содержание после публикации и предпримем все необходимые дальнейшие шаги». «Утверждения о том, что наша юридическая команда обнаружила инцидент, ложны», — заверили в компании.

Было интересно? Скажите об этом Google, чтобы чаще получать ссылки на наши новости про искусственный интеллект

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Японский суперкомпьютер Fugaku взломали через страницу мониторинга 2 ч.
Разработчики космического боевика Exodus в духе Mass Effect впервые показали женскую версию главного героя, и игроки в восторге 2 ч.
Meta запустила Direct — мессенджер Instagram без самого Instagram 2 ч.
Теперь и перепройти можно: ролевой боевик The Blood of Dawnwalker от ветеранов The Witcher 3 и Cyberpunk 2077 получил патч 1.2 с «Новой игрой +» 3 ч.
Microsoft не обманула: независимые тесты подтвердили ускорение Windows 11 на системах с 8 Гбайт памяти 4 ч.
Sony отбилась от иска на £2 млрд в Великобритании — компанию обвиняли в завышении цен на игры в PlayStation Store 5 ч.
Моддер запустил классическую Doom на флешке — игра выдаёт 13 кадров/с, а управляется копированием файлов 5 ч.
От Ikea до Zoom: хакеры скомпрометировали популярные сайты по всему миру 7 ч.
Взломщик Rockstar предстал перед судом и признал вину за массовую утечку GTA VI — студия потеряла из-за него миллионы долларов 8 ч.
Россияне массово жалуются на сбои Google, Deepseek, Twitch, Discord и «Ростелекома» 9 ч.
Хакеры взломали мощнейший суперкомпьютер Японии Fugaku — под угрозой оказались данные тысяч учёных 16 мин.
LANL испытает ускорители Maverick-2 — это уже вторая система NextSilicon для Министерства энергетики США 20 мин.
Вентилятор, на котором можно играть в игры: Thermaltake представила Swafan Ultra 120 EX RGB с IPS-экраном 34 мин.
Учёные придумали «солнечный LEGO» — разноцветные строительные блоки, способные вырабатывать электричество 40 мин.
AWS продаст Blackstone два кампуса ЦОД и тут же арендует их 54 мин.
Хакерский карманный Linux-компьютер Flipper One стал доступен для заказа за $399 2 ч.
Ровер NASA Perseverance обнаружил на Марсе «призрачные» камни — на Земле такие прячут следы древней микробной жизни 2 ч.
Apple начала продавать запчасти и инструменты для самостоятельного ремонта iPhone Duo 4 ч.
После скандала Nvidia взяла экспорт чипов под особый контроль — в компании создали комитет по нацбезопасности 5 ч.
Нордическая ИИ-гигафабрика: Финляндия, Эстония, Латвия и Швеция вместе построят распределённую ИИ-инфраструктуру 5 ч.