Сегодня 19 ноября 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Теги → меморандум

OpenAI опубликовала новые «основополагающие принципы» — они заметно изменились с 2018 года

OpenAI опубликовала на своём сайте обновлённый вариант документа, в котором формулируются основополагающие принципы её деятельности. Сейчас он фактически закрепляет уже свершившееся — превращение из исследовательской некоммерческой организации в коммерческую компанию.

 Источник изображения: Dima Solomin / unsplash.com

Источник изображения: Dima Solomin / unsplash.com

В варианте от 2018 года меморандум звучал как взятые на себя обязательства OpenAI перед обществом: компания стремилась быть в авангарде отрасли искусственного интеллекта, чтобы иметь возможность контролировать «сильный ИИ» (AGI) который сможет сравниться со способностями человека. Теперь компания упоминает AGI лишь дважды, не обещает отказаться от конкуренции с любой другой лабораторией, которая впервые разработает ИИ такой мощности, по сути, ставя собственные коммерческие интересы выше идеи «AGI для всех». Более того, она берётся раздавать поручения всей отрасли ИИ: решения в ней должны приниматься демократически, а государства должны участвовать в строительстве инфраструктуры для удешевления ИИ, чтобы делать технологию доступнее.

Первый принцип OpenAI — демократизация. Компания обязуется противостоять консолидации передовых возможностей ИИ в руках немногих. Помимо использования преимуществ ИИ, это означает, что ключевые решения о дальнейшем развитии технологии должны приниматься обществом в целом, а не только разработчиками технологий.

Второй принцип — расширение возможностей. Компания провозглашает уверенность, что ИИ даёт человеку возможность достигать различных целей, рабочих или учебных, и стремится создавать продукты, которые будут обеспечивать всё бо́льшие возможности. OpenAI берет на себя ответственность за то, чтобы её решения причиняли как можно меньше вреда человечеству, но и обязательства ослаблять ограничения, когда угроза отсутствует.

 Источник изображения: Mariia Shalabaieva / unsplash.com

Источник изображения: Mariia Shalabaieva / unsplash.com

Третий принцип — всеобщее процветание. По мере расширения возможностей ИИ будет меняться и мир вокруг нас. Властям, возможно, придётся рассматривать новые экономические модели, отражающие реалии этого мира. А разработчикам потребуется достаточно мощная инфраструктура для работы систем ИИ: инвесторам в частности и обществу вообще придётся относиться с пониманием к тому, что закупаются колоссальные объёмы вычислительных данных при относительно скромной выручке.

Четвёртый принцип — устойчивость. ИИ становится мощнее, возникают новые угрозы, и OpenAI намерена сотрудничать с коллегами и властями для их решения. Это касается, в частности, биологических и киберугроз, которые уже сегодня способен создавать ИИ — должны появляться и симметричные средства защиты от них. Впрочем, создание средств защиты — не единственная стратегия: разработчики должны создавать безопасные системы на уровне их архитектуры.

Наконец, пятый принцип — адаптивность. Компания считает, что в условиях непредсказуемого будущего она должна быть готовой меняться и сама, обновлять свои принципы по мере достижения новых знаний, а также обеспечивать прозрачность в отношении изменения этих принципов. «Мы не всегда будем делать всё идеально, но станем быстро учиться и корректировать курс», — пообещали в OpenAI.


window-new
Soft
Hard
Тренды 🔥
Более чем у половины банковских приложений из App Store и Google Play нашлись дыры в безопасности 13 мин.
Microsoft превратила Copilot в «новую ОС для работы» — и теперь Word, Excel и PowerPoint работают прямо в ней 2 ч.
Крупнейшее IPO в истории: $83 за акцию Anthropic 3 ч.
Google открыла доступ к Genie 4 – ИИ для генерации целых миров, которые можно менять прямо на ходу 3 ч.
«Группа Астра» представила Astra Server Core для замены серверных функций Microsoft в корпоративной инфраструктуре 4 ч.
GTA VI начала переписывать историю — блокбастер Rockstar бьёт рекорды популярности на Twitch, YouTube и Kick 4 ч.
Google выпустила Gemini 4 Neon — почти флагманский рассуждающий ИИ стал быстрее и дешевле 5 ч.
«Просто ужасно»: ИИ-агент Meta Muse сам влез в переписки Signal — и это лишь одна из его пугающих проблем 5 ч.
Рекорд SpaceX побит: Anthropic провела крупнейшее IPO в истории и привлекла $81,3 млрд 5 ч.
Sandfall Interactive лишилась одного из главных творцов успеха Clair Obscur: Expedition 33 7 ч.
Ночное небо теряет звёзды: над многими городами спутников теперь больше, чем видимых звёзд 7 мин.
Пора экономить: NetApp увеличила цены на оборудование, ПО и услуги до 40 % 26 мин.
Смарт-часы Honor Watch 6 Pro вышли на международный рынок, потеряв одну важную функцию 28 мин.
CoolIT и Ecolab представили 3-МВт CDU с системой мониторинга теплоносителя 35 мин.
Пульс есть, но пациент без сознания: «Вояджер-1» перестал передавать телеметрию и научные данные, улетев на световые сутки 3 ч.
RAID-технология VROC станет доступна для процессоров AMD EPYC 4 ч.
Intel наконец нашла стороннего заказчика для передового техпроцесса 18A — но не говорит, кто это 4 ч.
ИИ-бум может захлебнуться в избытке чипов — Сэм Альтман предупредил, что OpenAI не сможет скупить всё 7 ч.
Sizable Energy намерена запитать ЦОД от морских гидроаккумуляторных энергохранилищ 7 ч.
Intel Foundry наконец заполучила крупного клиента — Microsoft доверила ей упаковку чипов Maia и Cobalt 8 ч.