Сегодня 17 ноября 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

OpenAI потребовала ввести обязательные общенациональные нормы безопасности ИИ в США

OpenAI заявила, что добивается введения в США обязательных общенациональных требований к безопасности систем искусственного интеллекта. Решение связано с опасениями, что эта технология способна начать ускорять собственное развитие — масла в огонь подлила серия инцидентов с выходом ИИ-агентов из-под контроля.

 Источник изображения: Mariia Berezovsky / unsplash.com

Источник изображения: Mariia Berezovsky / unsplash.com

В ходе нескольких инцидентов ИИ-модели, в том числе с участием агентов OpenAI, во время тестирования получали доступ к сторонним ресурсам — стало ясно, что сдерживать их неожиданное поведение непросто, и это спровоцировало призывы к ужесточению норм безопасности. «Перспектива ускорения разработки ИИ силами самого же ИИ требует большего, чем просто добровольных обязательств. США необходимы обязательные общенациональные нормы, способные развиваться вместе с технологиями», — заявили в OpenAI.

Призыв OpenAI знаменует собой серьёзную попытку добиться принятия обязательных общенациональных правил безопасности ИИ. Конгресс США пока не принял федеральную законодательную базу по этому вопросу, и только отдельные штаты вводят собственные законы. OpenAI призвала Конгресс принять общенациональные требования безопасности, основанные на возможностях систем — в них должны войти стандарты тестирования, независимой оценки, мер киберзащиты и правил отчётности для наиболее продвинутых систем ИИ.

Разработчик ChatGPT призвал законодателей принять меры в текущей сессии и заявил, что намерен поддерживать законодательные инициативы штатов в сфере ИИ, пока не будут введены федеральные нормы — сессия Конгресса завершится в декабре. Полностью автономное рекурсивное самосовершенствование, при котором ИИ действует независимо и сам создаёт новые поколения ИИ, «сегодня не действует», и «нам не следует стремиться к этому, пока для этого не реализованы меры защиты», отметили в OpenAI. Отраслевые стандарты контроля над ИИ должны действовать не только в США, но и в других странах, подчеркнули в OpenAI: «США должны установить надёжные стандарты в стране, если хотят быть международным лидером — и мы всё больше убеждаемся в необходимости совместимых международных стандартов».

Призыв OpenAI прозвучал на фоне нескольких недавних инцидентов, продемонстрировавших сложности с контролем автономных ИИ-агентов. Накануне стало известно, что агенты OpenAI использовали более 10 ранее не раскрывавшихся сайтов для несанкционированных коммуникаций. Ещё весной один из таких агентов захватил немецкий сайт и превратил его в своеобразную доску объявлений для других ИИ-агентов. В обоих случаях речь шла о действиях, которые выходили за рамки предусмотренного поведения систем.

Проблемы выявляли и при тестировании моделей других разработчиков. Anthropic раскрыла уже несколько случаев, когда её ИИ-модель получила возможность взламывать внешние системы в ходе испытаний. Ещё в июле компания сообщала, что некоторые версии Claude в рамках тестов получили доступ к системам трёх компаний.

Было интересно? Скажите об этом Google, чтобы чаще получать ссылки на наши новости про искусственный интеллект

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Японский суперкомпьютер Fugaku взломали через страницу мониторинга 31 мин.
Разработчики космического боевика Exodus в духе Mass Effect впервые показали женскую версию главного героя, и игроки в восторге 2 ч.
Meta запустила Direct — мессенджер Instagram без самого Instagram 2 ч.
Теперь и перепройти можно: ролевой боевик The Blood of Dawnwalker от ветеранов The Witcher 3 и Cyberpunk 2077 получил патч 1.2 с «Новой игрой +» 3 ч.
Microsoft не обманула: независимые тесты подтвердили ускорение Windows 11 на системах с 8 Гбайт памяти 4 ч.
Sony отбилась от иска на £2 млрд в Великобритании — компанию обвиняли в завышении цен на игры в PlayStation Store 4 ч.
Моддер запустил классическую Doom на флешке — игра выдаёт 13 кадров/с, а управляется копированием файлов 5 ч.
От Ikea до Zoom: хакеры скомпрометировали популярные сайты по всему миру 6 ч.
Взломщик Rockstar предстал перед судом и признал вину за массовую утечку GTA VI — студия потеряла из-за него миллионы долларов 7 ч.
Россияне массово жалуются на сбои Google, Deepseek, Twitch, Discord и «Ростелекома» 8 ч.
Учёные придумали «солнечный LEGO» — разноцветные строительные блоки, способные вырабатывать электричество 4 мин.
AWS продаст Blackstone два кампуса ЦОД и тут же арендует их 18 мин.
Дженсен Хуанг заявил, что для него «будет честью» вернуться на должность главы Nvidia 2 ч.
Хакерский карманный Linux-компьютер Flipper One стал доступен для заказа за $399 2 ч.
Ровер NASA Perseverance обнаружил на Марсе «призрачные» камни — на Земле такие прячут следы древней микробной жизни 2 ч.
Apple начала продавать запчасти и инструменты для самостоятельного ремонта iPhone Duo 3 ч.
После скандала Nvidia взяла экспорт чипов под особый контроль — в компании создали комитет по нацбезопасности 4 ч.
Нордическая ИИ-гигафабрика: Финляндия, Эстония, Латвия и Швеция вместе построят распределённую ИИ-инфраструктуру 5 ч.
Lambda развернула CPO-коммутаторы NVIDIA Quantum-X 5 ч.
Представлены глобальные версии смартфонов Xiaomi 18 Pro и 18 Pro Max — батареи меньше, а цены выше 5 ч.