Сегодня 17 ноября 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Более 100 экспертов предупредили: независимая проверка безопасности ИИ сейчас почти невозможна

Более 100 экспертов и специалистов по оценке рисков в области искусственного интеллекта опубликовали открытое письмо, в котором предупреждают, что у них нет необходимых ресурсов для проверки безопасности технологий ИИ.

 Источник изображения: Steve A Johnson/unsplash.com

Источник изображения: Steve A Johnson/unsplash.com

Цель этого обращения — заставить поставщиков базовых моделей обеспечить сторонним оценщикам ИИ необходимую «научную объективность, прозрачность, независимость и надёжную защиту» для эффективного и достоверного выполнения своей работы.

«Мы просто пытаемся продемонстрировать общую позицию по основным принципам и обеспечить положение, при котором независимый надзор мог бы стать эффективным инструментом для управления рисками в области ИИ в целом», — заявил в интервью CNBC Конрад Стош (Conrad Stosz), президент консорциума AI Assessment Forum, выступившего организатором публикации этого письма.

Среди подписавших письмо — такие известные деятели в области ИИ, как британо-канадский учёный Джеффри Хинтон (Geoffrey Hinton), а также сотрудники таких организаций, как Университет Джонса Хопкинса, Стэнфордский университет и некоммерческая организация METR, занимающаяся оценкой.

Нишевое сообщество экспертов по оценке оказалось в центре внимания после того, как генеральный директор Anthropic Дарио Амодеи (Dario Amodei) в минувшие выходные предложил предоставить независимым экспертам доступ к внутренним процедурам в сфере безопасности и отчётам об инцидентах для проверки и аудита передовых базовых моделей и процессов их разработки.

По словам Стоша, коалиция не «выступает за какой-то конкретный способ» обеспечения безопасной разработки моделей ИИ, но хочет, чтобы для оценщиков и других специалистов, работающих независимо от крупных лабораторий, были, по крайней мере, установлены «базовые принципы» и «более высокий уровень стандартизации».

Стош отметил, что предложение Амодеи предполагает предоставление значительно большего доступа, чем тот, которым эксперты-оценщики пользовались ранее. В качестве одного из сценариев можно было бы предложить, чтобы создатели базовых моделей предоставляли сторонним экспертам доступ к компьютерам компании, разрешали общение с сотрудниками и предоставляли возможность доступа к «конфиденциальным внутренним данным и невыпущенным системам».

Также эксперты хотели бы иметь защиту от возможных ответных мер ИИ-компаний, чьи решения они будут оценивать.

Кроме того, Стош заявил, что сторонние эксперты не предназначены для замены внутренних программ компаний по оценке безопасности моделей. «В настоящее время существует очень небольшое количество групп, которые обладают достаточной технической компетентностью, масштабом и возможностями для выполнения работы такого рода», — добавил он.

Было интересно? Скажите об этом Google, чтобы чаще получать ссылки на наши новости про искусственный интеллект

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Разработчики космического боевика Exodus в духе Mass Effect впервые показали женскую версию главного героя, и игроки в восторге 11 мин.
Meta запустила Direct — мессенджер Instagram без самого Instagram 16 мин.
Теперь и перепройти можно: ролевой боевик The Blood of Dawnwalker от ветеранов The Witcher 3 и Cyberpunk 2077 получил патч 1.2 с «Новой игрой +» 2 ч.
Microsoft не обманула: независимые тесты подтвердили ускорение Windows 11 на системах с 8 Гбайт памяти 3 ч.
Sony отбилась от иска на £2 млрд в Великобритании — компанию обвиняли в завышении цен на игры в PlayStation Store 3 ч.
Моддер запустил классическую Doom на флешке — игра выдаёт 13 кадров/с, а управляется копированием файлов 4 ч.
От Ikea до Zoom: хакеры скомпрометировали популярные сайты по всему миру 5 ч.
Взломщик Rockstar предстал перед судом и признал вину за массовую утечку GTA VI — студия потеряла из-за него миллионы долларов 6 ч.
Россияне массово жалуются на сбои Google, Deepseek, Twitch, Discord и «Ростелекома» 7 ч.
«123456» снова стал самым популярным паролем в мире — седьмой год подряд 7 ч.
Дженсен Хуанг заявил, что для него «будет честью» вернуться на должность главы Nvidia 7 мин.
Хакерский карманный Linux-компьютер Flipper One стал доступен для заказа за $399 11 мин.
Ровер NASA Perseverance обнаружил на Марсе «призрачные» камни — на Земле такие прячут следы древней микробной жизни 13 мин.
Apple начала продавать запчасти и инструменты для самостоятельного ремонта iPhone Duo 2 ч.
После скандала Nvidia взяла экспорт чипов под особый контроль — в компании создали комитет по нацбезопасности 3 ч.
Нордическая ИИ-гигафабрика: Финляндия, Эстония, Латвия и Швеция вместе построят распределённую ИИ-инфраструктуру 4 ч.
Lambda развернула CPO-коммутаторы NVIDIA Quantum-X 4 ч.
Представлены глобальные версии смартфонов Xiaomi 18 Pro и 18 Pro Max — батареи меньше, а цены выше 4 ч.
Xiaomi выпустила смарт-часы Watch S5 41 мм, смарт-браслет Smart Band 11 и наушники-клипсы Clip на глобальный рынок 4 ч.
«Сбер» представила «СберБум Трек» — портативную умную колонку с «ГигаЧатом» за 14 990 рублей 4 ч.