Ведущие ИИ-лаборатории озаботились вопросом «сознания» у машин

Ведущие мировые компании, занимающиеся искусственным интеллектом, выделяют всё больше ресурсов для ответа на вопрос, который пока звучит фантастически: что будет, если ИИ обретёт сознание? В последние месяцы Google DeepMind, Anthropic и Meta✴✴ наняли экспертов в области психологии, этики и философии, чтобы расширить исследовательские программы по направлению машинного сознания и благополучия ИИ, пишет Financial Times.

Обзор Infinix GT 50 Pro: геймерский смартфон со встроенной СЖО

Умные помощники: обзор ИИ-сервисов для обработки изображений. Часть 2, актуализированная

Репортаж с IEM Cologne Major 2026: Жаб Жабыч, триумф NiKo и главные сенсации мейджора по CS2

Обзор Ryzen 9 9950X3D2: правильный 16-ядерник с 3D-кешем

Выбираем лучший игровой ноутбук до 100 000 рублей: сравнительное тестирование 7 интересных моделей

Источник изображения: Igor Omilaev / unspalsh.com

Быстрые достижения современных лабораторий породили вопросы о том, смогут ли машины когда-нибудь обладать субъективным сознанием — и какие обязательства могут возникнуть у людей по отношению к ним, если это случится. Anthropic тестирует модели на наличие признаков стресса, в том числе фиксируя поведение, напоминающее панику или тревожность. Как ключевую проблему этот вопрос выделил глава профильного отдела Meta✴✴ Александр Ван (Alexandr Wang). В Anthropic изучают вопрос, могут ли модели ИИ демонстрировать проявления, имеющие моральное значение.

«Мы по-прежнему испытываем глубокую неуверенность в этом вопросе, но считаем его достаточно серьёзным, чтобы тщательно изучать его по мере совершенствования систем ИИ», — подчеркнули в Anthropic. По мере того, как модели «приближаются, а в некоторых случаях и превосходят, широту и сложность человеческого познания, растёт вероятность, что они обладают некоторой формой опыта, интересов или благополучия, которые имеют внутреннее значение наравне с человеческими опытом и интересами», добавили в компании.

В апреле Google DeepMind наняла учёного Генри Шевлина (Henry Shevlin) из Кембриджского университета для проработки вопросов машинного сознания, взаимоотношений человека и ИИ и готовности к созданию сильного ИИ (AGI). Специалисты отдела изучают научные теории человеческого сознания, применяя их к компьютерным системам, чтобы определить, соответствуют ли они тем же критериям.

Специалист по этике в Google DeepMind Иасон Габриэль (Iason Gabriel) охарактеризовал этот вопрос как «очень сложный» и требующий «долгосрочного осмысления». «Даже предположив, что вопрос о сознании не стоит, следует ли оценивать наше взаимодействие с [ИИ] с точки зрения косвенных последствий», таких как неподобающее обращение с ИИ, и окажет ли это «вторичное воздействие» на человеческие отношения и «процветание»? «Очевидно, у нас есть высокоэффективные когнитивные агенты, которые также очень сильно отличаются от людей и даже от сознания у животных», — добавил господин Габриэль.

Несколько сотрудников Google DeepMind и Anthropic выразили обеспокоенность, что траектория развития ИИ может вести к «постчеловеческому» миру, где машины окажутся выше человека. Вопрос о сознании ИИ активно обсуждается, признали в компаниях, работа носит исследовательский характер и требует научного консенсуса. При этом выход на уровень AGI в DeepMind не считают подтверждением того, что сознание у машин существует. Учитывая, на каких данных обучаются большие языковые модели, многие учёные просто отвергают идею о том, что чат-боты когда-либо смогут обрести сознание.