Сегодня 19 ноября 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Hardware

OpenAI и Anthropic потребовали ограничить ИИ из-за риска биологического оружия

Компании OpenAI и Anthropic направили в Управление по науке и технологической политике Белого дома (OSTP) открытое письмо с просьбой ограничить возможности разработки биологического оружия с помощью ИИ. Подобное становится возможным с появлением передовых моделей искусственного интеллекта и услуг по изготовлению синтетических ДНК на заказ. Недостаточный контроль и слабая проверка заказчиков грозят привести к возникновению биологических угроз, что необходимо предотвратить.

 Источник изображения: ИИ-генерация ChatGPT/3DNews

Источник изображения: ИИ-генерация ChatGPT/3DNews

По словам подписантов, среди которых также Microsoft и ряд крупных экспертов в области биологии и ИИ, существующая нормативная база не обеспечивает надлежащей проверки клиентов для предотвращения биологических угроз, связанных с использованием систем искусственного интеллекта и технологий синтеза ДНК, а также белков и других искусственно созданных биологических материалов. Между тем современные модели ИИ общего назначения, обученные на огромных массивах научных данных, способны существенно снизить порог входа в область синтетической биологии, предоставляя подробные протоколы синтеза и последовательности действий, понятные даже неспециалистам.

В настоящее время проверка заказчиков и самих заказов компаниями — производителями биоматериалов фактически ведётся на добровольной основе. Конечно, существуют сертифицированные биолаборатории, контролируемые федеральными агентствами, где контроль максимален. Но на фоне множества частных компаний это слабое утешение.

Особую тревогу вызывает способность ИИ-агентов не просто пересказывать учебники, но и предлагать неочевидные «обходные пути» синтеза токсинов, помогать в поиске оборудования и устранять неполадки в процессе производства. Подобное, очевидно, требует введения обязательного внешнего аудита, а также привлечения специалистов-биологов к предварительному тестированию ИИ-моделей для контролируемого выявления «опасных возможностей» до открытия доступа к ним для широкой публики.

Авторы письма признают, что чрезмерно жёсткие рамки контроля могут замедлить законные биотехнологические исследования, включая разработку новых лекарств и вакцин. В связи с этим они предлагают внедрить многоуровневую систему контроля доступа: чем выше биологические риски использования той или иной ИИ-модели, тем более строгой должна быть проверка пользователей и тем более узкому кругу аккредитованных учёных она должна быть доступна. Такой подход, по мнению технологических компаний, позволит не «задушить» инновации, но создаст цифровой барьер, достаточно высокий, чтобы остановить злоумышленников.

В целом подписанты письма надеются на «юридическую ясность» и создание государственной системы надзора. Они просят правительство классифицировать работу с моделями, имеющими двойное назначение, как вид деятельности, подлежащий лицензированию или обязательной экспертизе. Авторы письма настаивают, что саморегулирование рынка здесь невозможно в силу стратегической важности вопроса: если раньше для создания биологического оружия требовалась инфраструктура государственного уровня, то ИИ делает соответствующие знания потенциально доступными для небольших маргинальных групп. Такого быть не должно.

Было интересно? Скажите об этом Google, чтобы чаще получать ссылки на наши новости про окружающая среда

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Google открыла доступ к Genie 4 – ИИ для генерации целых миров, которые можно менять прямо на ходу 23 мин.
«Группа Астра» представила Astra Server Core для замены серверных функций Microsoft в корпоративной инфраструктуре 52 мин.
GTA VI начала переписывать историю — блокбастер Rockstar бьёт рекорды популярности на Twitch, YouTube и Kick 2 ч.
Google выпустила Gemini 4 Neon — почти флагманский рассуждающий ИИ стал быстрее и дешевле 3 ч.
«Просто ужасно»: ИИ-агент Meta Muse сам влез в переписки Signal — и это лишь одна из его пугающих проблем 3 ч.
Рекорд SpaceX побит: Anthropic провела крупнейшее IPO в истории и привлекла $81,3 млрд 3 ч.
Sandfall Interactive лишилась одного из главных творцов успеха Clair Obscur: Expedition 33 5 ч.
Rockstar назвала PS5 Pro «недостаточно мощной», чтобы потянуть GTA VI при 60 кадрах/с 5 ч.
DDN отменит привязку EXAScaler к своим аппаратным решениям 6 ч.
Anthropic продаст больше акций и дороже ожидаемого — её IPO переплюнет SpaceX 7 ч.
Пульс есть, но пациент без сознания: «Вояджер-1» перестал передавать телеметрию и научные данные, улетев на световые сутки 18 мин.
RAID-технология VROC станет доступна для процессоров AMD EPYC 55 мин.
Intel наконец нашла стороннего заказчика для передового техпроцесса 18A — но не говорит, кто это 2 ч.
Мощнейшая за 20 лет магнитная буря перекроила радиационные пояса Земли — их стало четыре вместо двух 2 ч.
Sizable Energy намерена запитать ЦОД от морских гидроаккумуляторных энергохранилищ 5 ч.
Intel Foundry наконец заполучила крупного клиента — Microsoft доверила ей упаковку чипов Maia и Cobalt 5 ч.
OCTOPUS с Xeon 6 и квантовыми процессорами: Университет Осаки запустил академическую платформу SEAFOOD 5 ч.
Phison представила космические SSD Pascari Space 13 ч.
Intel запустила новую волну увольнений — Тан продолжает повышать эффективность компании 14 ч.
Новая статья: Обзор системы жидкостного охлаждения Ocypus Omega L36 Ultra Eng Limited: ультрамегасуперэксклюзив 15 ч.