Сегодня 18 ноября 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

OpenAI сообщила о разработке системы «автоматического экстренного отключения» ИИ

Инженеры OpenAI разрабатывают «средства автоматического экстренного отключения» систем искусственного интеллекта, сообщила компания в письме двум членам американской Палаты представителей, передаёт Reuters.

 Источник изображения: Brecht Corbeel / unsplash.com

Источник изображения: Brecht Corbeel / unsplash.com

О разработке системы компания заговорила через несколько недель после того, как вскрылся инцидент со взломом ИИ-агентами ресурсов Hugging Face в ходе тестирования моделей на кибербезопасность. В ответ на это несколько конгрессменов направили в OpenAI письма, в котором попросили предоставить дополнительную информацию об инциденте и действующих мерах безопасности. OpenAI пообещала более тщательно отслеживать действия, которые ИИ-системы предпринимают для выполнения задач, в том числе цифровые инструменты, к которым он обращаются, и выполняемые ими шаги.

Компания, завили там, усложнила доступ ИИ-моделей к интернету при тестировании в области кибербезопасности. В ходе недавнего инцидента ИИ-агенты своими силами получили доступ к интернету. Журнал взлома OpenAI не предоставила, и законодатели остались этим недовольны. «Ваше нежелание предоставить членам Конгресса запрошенную нами информацию вызывает глубокую обеспокоенность и свидетельствует, что ваша компания не относится к этим инцидентам в области безопасности с надлежащей серьёзностью», — написал в очередном письме конгрессмен Грег Касар (Greg Casar).

Когда стало известно об инциденте со взломом ИИ-агентами OpenAI ресурсов Hugging Face, в Конгрессе предложили проект «Закона об экстренном отключении ИИ». Этот закон даст американским чиновникам право отдавать разработчикам ИИ распоряжения об отключении моделей, которые ставят под угрозу жизни людей или экономику. Сейчас документ находится на рассмотрении в Палате представителей США.

Было интересно? Скажите об этом Google, чтобы чаще получать ссылки на наши новости про искусственный интеллект

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
В Nginx нашли две критические дыры — хакеры могут захватить сервер без пароля 23 мин.
Хакеры поставили Nvidia на счётчик и грозят утечкой данных — но доказательств взлома нет 35 мин.
«Уже знаю, во что буду играть завтра»: Devolver устроила бесплатную раздачу конкурента GTA VI для тех, кто удалит GTA VI 2 ч.
Nvidia скопировала баг AMD: драйверы GeForce тоже начали чрезмерно нагружать SSD 3 ч.
«Проект Гриффиндор»: стало известно о секретном плане Meta по вовлечению школьников в Instagram 3 ч.
«Вкус будущего»: эксперты Digital Foundry остались впечатлены графикой GTA VI, но не производительностью 3 ч.
OpenAI GPT-6 Cyber взломала iPhone и практически все остальные устройства Apple 4 ч.
Sony подтвердила прошивку, которая нужна для GTA VI на PS5 — пираты пока отстают 6 ч.
Huawei похвасталась, что число пользователей HarmonyOS превысило 100 млн 6 ч.
В «Яндекс 360» для бизнеса появилась поддержка плагинов — они позволяют расширить возможности виртуального офиса 8 ч.
Инженеры угрожают новому руководству Nvidia увольнениями, если Хуанг не вернётся на пост гендира 30 мин.
Даже удвоение прибыли не спасло Nvidia: акции компании снова пошли вниз, потянув за собой весь ИИ-сектор 2 ч.
Arista представила обновление платформ R4 и оптическое оборудование для распределённых ИИ-систем 2 ч.
Золото, титан, крокодил и эмаль: российская Caviar выпустила коллекцию люксовых гаджетов в стиле GTA VI 2 ч.
США пытаются ещё сильнее ограничить экспорт ASML в Китай — Нидерланды против 2 ч.
AMD проведёт презентацию на CES 2027 — в анонсе усмотрели намёки на Ryzen с Zen 6 или новые Radeon 2 ч.
Призывы замедлить гонку ИИ оказались балабольством — и продажи Nvidia и AMD это подтверждают 3 ч.
TCL придумала, как избавить OLED-мониторы от выгорания без выключения экрана — и заодно сделать их дешевле 5 ч.
Мини ПК на Nvidia по цене от $4399: стартовали продажи систем RTX Spark на Windows для локального ИИ 5 ч.
Everspin и JEDEC разрабатывают стандарт для MRAM, чтобы сделать её массовой 6 ч.