MWC 2018
2018
Computex
IFA 2018
Reddit представила новую систему Rules Hub, которая использует большие языковые модели (LLM) для проверки публикаций и комментариев на соответствие правилам сообществ. Инструмент дополнит существующую систему модерации и поможет в обработке сложных случаев, где недостаточно поиска по ключевым словам и фразам.
Источник изображения: Reddit, Grok
Как сообщает Android Authority со ссылкой на The Verge, в отличие от встроенного в Reddit бота автоматической модерации AutoMod, который анализирует заранее заданные слова и шаблоны, Rules Hub оценивает контекст публикации и сопоставляет его с намерением, заложенным в правила конкретного сообщества. При этом сами правила по-прежнему создают модераторы, определяя, какие действия следует предпринимать при выявлении нарушений.
После настройки система может автоматически отправлять публикации на дополнительную проверку, скрывать их или сразу удалять. Кроме того, модераторы получили возможность протестировать новые правила на архивных сообщениях перед их запуском, а также просматривать журналы с объяснением причин, по которым ИИ принял то или иное решение. Таким образом, в некоторых сообществах первая проверка публикации может выполняться без участия человека.
В течение последних месяцев Rules Hub был протестирован более чем в 700 сообществах при участии модераторов, входящих в программу сотрудничества между администрацией Reddit и активными модераторами (Mod Council Network). Сейчас инструмент доступен для новых сабреддитов, а более широкое распространение произойдёт позднее в текущем году. При этом компания подчёркивает, что пока не считает систему готовой к замене существующих механизмов модерации в крупных сообществах.
В перспективе Reddit рассчитывает расширить роль Rules Hub, объединив систему с другими возможностями платформы, включая встроенный инструмент под названием Post and Comment Guidance и Safety Filters, который помогают администраторам сабреддитов автоматически управлять контентом. По мнению компании, это позволит данной разработке постепенно взять на себя значительную часть задач, которые сейчас выполняет бот Automod. При этом окончательное решение о применении санкций и использовании автоматического удаления по-прежнему останется за модераторами конкретных сообществ.
Источник:
