Сегодня 19 ноября 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Глава ИИ в Microsoft раскритиковал Anthropic за попытки приписать Claude проблески сознания

Глава отдела Microsoft AI Мустафа Сулейман (Mustafa Suleyman) назвал «очень, очень опасными» попытки Anthropic строить предположения, что у её моделей искусственного интеллекта Claude возникают признаки сознания.

 Источник изображения: Mustafa Suleyman

Источник изображения: Mustafa Suleyman

«Мне кажется, некоторые сотрудники Anthropic настолько очеловечили алгоритмы Claude, что тот, в свою очередь, обманул их, заставив поверить в проблески сознания, которые они изначально в него заложили. <..> Мы не хотим иметь дело со сверхразумом, обладающим представлениями о собственных чувствах и страданиях», — заявил эксперт в интервью подкасту Decoder.

В «конституции», то есть задокументированных основах строения Claude, напрямую прописана неуверенность Anthropic в том, обладает ли модель ИИ ощущением благополучия, и испытывает ил она такие чувства как «удовлетворённость» и «дискомфорт». Компания заявляет о намерении «опрашивать» модели ИИ, когда они будут устаревать, и документировать их «предпочтения» в отношении последующих релизов.

Господин Сулейман назвал такое отношение разработчика к продукту «философской ошибкой»: компания Anthropic превратила конституцию модели ИИ в «место для размышлений, как в научной статье, а не в механизм обучения». В итоге ИИ-модель Claude и усвоила эти «тезисы о себе и своём обучении». Глава Anthropic Дарио Амодеи (Dario Amodei) ранее не исключил, что у Claude есть сознание, заявив, что «мы не знаем обладают ли модели сознанием», но компания «открыта» для идей об этом.

«Вот этого от ИИ нам не нужно. Мы хотим, чтобы ИИ был управляемым, подотчётным и согласованным инструментом, служащим человечеству», — подчеркнул Мустафа Сулейман.

Было интересно? Скажите об этом Google, чтобы чаще получать ссылки на наши новости про искусственный интеллект

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
ИИ-бум может захлебнуться в избытке чипов — Сэм Альтман предупредил, что OpenAI не сможет скупить всё 12 мин.
Sizable Energy намерена запитать ЦОД от морских гидроаккумуляторных энергохранилищ 20 мин.
США затормозили китайский ИИ: Tencent признала, что следующая LLM задержится из-за перекрытия лазеек к чипам Nvidia 40 мин.
Intel Foundry наконец заполучила крупного клиента — Microsoft доверила ей упаковку чипов Maia и Cobalt 46 мин.
OCTOPUS с Xeon 6 и квантовыми процессорами: Университет Осаки запустил академическую платформу SEAFOOD 56 мин.
Phison представила космические SSD Pascari Space 9 ч.
Новая статья: Обзор системы жидкостного охлаждения Ocypus Omega L36 Ultra Eng Limited: ультрамегасуперэксклюзив 11 ч.
Lenovo готовит бюджетную портативную консоль Legion Go Beam без тачпадов и съёмных контроллеров 11 ч.
Vulcan сразил топливный голод — ULA установила предварительную причину аварии ракеты со спутниками Amazon Leo 12 ч.
Инженеры угрожают новому руководству Nvidia увольнениями, если Хуанг не вернётся на пост гендира 12 ч.