Сегодня 19 ноября 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Google добавит в чат-бот Gemini мониторинг психического здоровья

Google планирует добавить в интерфейс чат-бота с искусственным интеллектом Gemini новые функции, направленные на поддержку психического здоровья пользователей. Компания приняла это решение после того, как её конкурентам, в том числе OpenAI, пришлось отвечать по судебным искам, в которых их чат-ботов обвинили в причинении вреда пользователям.

 Источник изображения: Yogendra Singh / unsplash.com

Источник изображения: Yogendra Singh / unsplash.com

В чат-боте Gemini появится интерфейс, направляющий пользователей на горячую линию поддержки, если в переписке человека с ИИ будут обнаруживаться признаки «потенциального кризиса, связанного с самоубийством или членовредительством». Компания добавит в чаты о психическом здоровье модуль «Доступна помощь»; в дизайн приложения внесут изменения, направленные на предотвращение членовредительства.

Чат-бот Gemini и ChatGPT продолжают набирать популярность, и некоторые люди формируют с ними навязчивые отношения, способствующие развитию бредовых состояний; в крайних случаях эти пользователи убивают других людей или совершают самоубийства. На ведущих разработчиков ИИ уже подают в суд; Конгресс США уже изучает угрозы, которые чат-боты могут представлять для детей и подростков. В марте семья погибшего 36-летнего американца подала в суд на Google, утверждая, что его контакт с Gemini привёл к «четырёхдневному погружению в насильственные действия и спровоцированному самоубийству». Google заявила, что чат-бот неоднократно направлял мужчину на кризисную линию, но пообещала повысить безопасность платформы.

Некоторые пользователи сервисов ИИ заявляли, что чат-боты побуждали их действовать на основе явно не соответствующей действительности информации. В ответ на это Google, по её словам, обучила Gemini «не соглашаться с ложными убеждениями и не подкреплять их, а мягко указывать на отличие субъективного опыта от объективных фактов».

Было интересно? Скажите об этом Google, чтобы чаще получать ссылки на наши новости про искусственный интеллект

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Хакеры 10 дней атаковали системы Еврокомиссии с помощью ИИ — под угрозой личные данные чиновников 20 мин.
Студия-разработчик провальной MindsEye нашла способ выбраться из долговой ямы — засудить «диверсантов» 58 мин.
«Яндекс» заявил, что вернул доступ к 99,5 % файлов на «Диске» — оставшиеся ещё надеются спасти 2 ч.
В России создали мультиагентную систему «Радар» для автоматизации закупочных процессов 3 ч.
Более чем у половины банковских приложений из App Store и Google Play нашлись дыры в безопасности 3 ч.
Microsoft превратила Copilot в «новую ОС для работы» — и теперь Word, Excel и PowerPoint работают прямо в ней 5 ч.
Крупнейшее IPO в истории: $83 за акцию Anthropic 5 ч.
Google открыла доступ к Genie 4 – ИИ для генерации целых миров, которые можно менять прямо на ходу 6 ч.
«Группа Астра» представила Astra Server Core для замены серверных функций Microsoft в корпоративной инфраструктуре 6 ч.
GTA VI начала переписывать историю — блокбастер Rockstar бьёт рекорды популярности на Twitch, YouTube и Kick 7 ч.
«Глупые трюки с DNS» уберегли интернет от глобальных сбоев из-за выхода GTA VI 26 мин.
TSMC и Samsung остановили поставки некоторых чипов в Китай — под ударом даже смартфоны Xiaomi и Oppo 36 мин.
«Глупые DNS-трюки» спасли интернет от падения из-за релиза GTA VI 2 ч.
ИИ ЦОД SpaceXAI «протёк»: из системы охлаждения вылилось до 23 тыс. л пропиленгликоля 2 ч.
Tencent: новые запреты США на ИИ-мощности для Китая отбросят всех назад, но помогут полупроводниковой отрасли страны 3 ч.
Ночное небо теряет звёзды: над многими городами спутников теперь больше, чем видимых звёзд 3 ч.
Пора экономить: NetApp увеличила цены на оборудование, ПО и услуги до 40 % 4 ч.
CoolIT и Ecolab представили 3-МВт CDU с системой мониторинга теплоносителя 4 ч.
RAID-технология VROC станет доступна для процессоров AMD EPYC 6 ч.
Intel наконец нашла стороннего заказчика для передового техпроцесса 18A — но не говорит, кто это 7 ч.