Сегодня 19 ноября 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Reddit доверила нейросети оценивать сообщения на предмет нарушения правил

Reddit представила новую систему Rules Hub, которая использует большие языковые модели (LLM) для проверки публикаций и комментариев на соответствие правилам сообществ. Инструмент дополнит существующую систему модерации и поможет в обработке сложных случаев, где недостаточно поиска по ключевым словам и фразам.

 Источник изображения: Reddit, Grok

Источник изображения: Reddit, Grok

Как сообщает Android Authority со ссылкой на The Verge, в отличие от встроенного в Reddit бота автоматической модерации AutoMod, который анализирует заранее заданные слова и шаблоны, Rules Hub оценивает контекст публикации и сопоставляет его с намерением, заложенным в правила конкретного сообщества. При этом сами правила по-прежнему создают модераторы, определяя, какие действия следует предпринимать при выявлении нарушений.

После настройки система может автоматически отправлять публикации на дополнительную проверку, скрывать их или сразу удалять. Кроме того, модераторы получили возможность протестировать новые правила на архивных сообщениях перед их запуском, а также просматривать журналы с объяснением причин, по которым ИИ принял то или иное решение. Таким образом, в некоторых сообществах первая проверка публикации может выполняться без участия человека.

В течение последних месяцев Rules Hub был протестирован более чем в 700 сообществах при участии модераторов, входящих в программу сотрудничества между администрацией Reddit и активными модераторами (Mod Council Network). Сейчас инструмент доступен для новых сабреддитов, а более широкое распространение произойдёт позднее в текущем году. При этом компания подчёркивает, что пока не считает систему готовой к замене существующих механизмов модерации в крупных сообществах.

В перспективе Reddit рассчитывает расширить роль Rules Hub, объединив систему с другими возможностями платформы, включая встроенный инструмент под названием Post and Comment Guidance и Safety Filters, который помогают администраторам сабреддитов автоматически управлять контентом. По мнению компании, это позволит данной разработке постепенно взять на себя значительную часть задач, которые сейчас выполняет бот Automod. При этом окончательное решение о применении санкций и использовании автоматического удаления по-прежнему останется за модераторами конкретных сообществ.

Было интересно? Скажите об этом Google, чтобы чаще получать ссылки на наши новости про социальные сети

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
13 лет ожиданий подошли к концу: на PS5, Xbox Series X и S вышла GTA VI 4 ч.
В Nginx нашли две критические дыры — хакеры могут захватить сервер без пароля 5 ч.
Хакеры поставили Nvidia на счётчик и грозят утечкой данных — но доказательств взлома нет 5 ч.
«Уже знаю, во что буду играть завтра»: Devolver устроила бесплатную раздачу конкурента GTA VI для тех, кто удалит GTA VI 6 ч.
Nvidia скопировала баг AMD: драйверы GeForce тоже начали чрезмерно нагружать SSD 7 ч.
«Проект Гриффиндор»: стало известно о секретном плане Meta по вовлечению школьников в Instagram 7 ч.
«Вкус будущего»: эксперты Digital Foundry остались впечатлены графикой GTA VI, но не производительностью 8 ч.
OpenAI GPT-6 Cyber взломала iPhone и практически все остальные устройства Apple 9 ч.
Sony подтвердила прошивку, которая нужна для GTA VI на PS5 — пираты пока отстают 10 ч.
Huawei похвасталась, что число пользователей HarmonyOS превысило 100 млн 10 ч.
Phison представила космические SSD Pascari Space 2 ч.
Intel запустила новую волну увольнений — Тан продолжает повышать эффективность компании 3 ч.
Новая статья: Обзор системы жидкостного охлаждения Ocypus Omega L36 Ultra Eng Limited: ультрамегасуперэксклюзив 4 ч.
Lenovo готовит бюджетную портативную консоль Legion Go Beam без тачпадов и съёмных контроллеров 4 ч.
Vulcan сразил топливный голод — ULA установила предварительную причину аварии ракеты со спутниками Amazon Leo 5 ч.
Даже удвоение прибыли не спасло Nvidia: акции компании снова пошли вниз, потянув за собой весь ИИ-сектор 6 ч.
Arista представила обновление платформ R4 и оптическое оборудование для распределённых ИИ-систем 6 ч.
Золото, титан, крокодил и эмаль: российская Caviar выпустила коллекцию люксовых гаджетов в стиле GTA VI 6 ч.
AMD проведёт презентацию на CES 2027 — в анонсе усмотрели намёки на Ryzen с Zen 6 или новые Radeon 6 ч.
Призывы замедлить гонку ИИ оказались балабольством — и продажи Nvidia и AMD это подтверждают 7 ч.