В этой статье мы расскажем, кому и зачем нужны системы модерации, какие они бывают, в чем их плюсы и минусы.
Также поделимся мыслями о том, как снизить вероятность ошибок и что важно учитывать создателю интернет-ресурса с отзывами.
Привет, Хабр! Пару месяцев назад мы запустили наш обзор онлайн-школ с системой премодерации.
Перед этим мы год готовились: изучали, как другие компании решают вопрос модерации, как пользователи обходят их фильтры.
Главное, что мы поняли, собрано в этой статье.
Возможно, кому-то информация тоже окажется полезной и сэкономит время и силы, которые мы уже потратили.
Сначала решите, зачем вам модерация
Любой создатель интернет-ресурса создает его не просто так, а с какой-то целью.Соответственно, у систем модерации тоже есть цель.
Глобально это звучит так — снизить вероятность ошибки.
Пример первый — Яндекс.
Карты.
Сервис придуман, чтобы людям было удобнее ориентироваться на местности.
Они также могут оставлять отзывы о местах, которые посетили, тем самым помогая другим пользователям оценить то или иное место, заведение или заведение.
При этом Яндекс.
Карты используют данные геолокации, если она включена на телефоне пользователя, а также данные о посещаемости определенных сайтов.
Это означает, что они могут с относительной точностью определить, в каких местах человек бывал, а в каких не был.
Поэтому, если пользователь захочет оставить отзыв о месте, где он никогда не был (вернее, где не был его телефон), он не сможет этого сделать — система модерации Яндекс.
Карт не позволит такого сделать.
пересмотр, так как будет считать его фиктивным.
На этом примере мы видим, что задача Яндекс.
Карт — защитить пользователей от ложной информации в отзывах.
Насколько они успешны на самом деле, это другой вопрос.
Другой пример — сайты отзывов пациентов о врачах и клиниках «ПроДокторы», «СберЗдоровье», «Напоправка».
Некоторые из них утверждают, что используют более 60 критериев для оценки достоверности обзора.
Здесь необходимо сделать оговорку: медицина — очень конкурентная сфера с достаточно высоким средним чеком.
Поэтому задача клиник – оградить себя от действий недобросовестных конкурентов, а задача рецензентов – снизить вероятность накрутки отзывов и снизить вероятность клеветы.
Соответственно, причина, по которой на сайте отзывов так много фильтров – сделать написание фейковых отзывов максимально дорогим и невыгодным для тех, кто может их заказать.
Когда агентство, специализирующееся на «управлении репутацией», видит, что заказ сложный и за один отзыв берет ценник до 10 тысяч рублей, невольно думаешь: а нужно ли оно вам за такие деньги? Лучше инвестировать в качество работы вашей клиники, чем платить за клевету в адрес конкурентов или позитивную клевету в свой адрес.
Пример третий о потребительском экстремизме - Яндекс.
Такси.
Любой, кто пользовался их приложением, знает, что оценить водителя и написать отрицательный отзыв можно только в том случае, если вы действительно заказали такси.
Люди разные.
Ради промокода на скидку некоторые могут натворить такие гадости в адрес водителя.
Поэтому владельцы продуктов ввели модерацию, а также систему оценки самих клиентов.
Мы считаем его одним из самых эффективных и справедливых, поскольку он отсеивает недобросовестных пользователей и защищает от них как компанию, так и водителей.
Это тоже очень удобно, хотя и очень просто с точки зрения реализации, поскольку все аспекты взаимоотношений «клиент-драйвер» легко устанавливаются.
Какие системы модерации существуют?
Условно все системы модерации можно разделить на автоматические, ручные и гибридные.У каждого из них есть свои плюсы и минусы.
Плюсы автоматической системы в том, что она позволяет (простите за тавтологию) автоматизировать многие процессы.
Критериев, по которым будут оцениваться отзывы, может быть сколько угодно.
Все зависит от задач и фантазии создателей сервиса и программистов.
Но велика вероятность ошибок, ведь любая автоматическая система имеет ошибку.
В качестве примера возьмем наш недавний кейс на vc.ru. Один из наших сотрудников забыл пароль к своей учетной записи и поэтому создал новый.
Он тут же написал несколько комментариев под новым постом, где он был адресован.
В одном из комментариев содержалась ссылка на тематический ресурс, которая была приведена в качестве поясняющего примера.
Система сочла эту активность подозрительной и заблокировала ее.
Объективных причин для бана человека не было, но алгоритм сработал.
После письма в техподдержку профиль разблокировали и модераторы сообщили, что система работает некорректно, так как никакие правила не были нарушены.
Ручная система модерации также может привести к ошибкам в принятии решений.
Люди склонны к субъективным оценкам.
И если не выработать правильные алгоритмы принятия решений, ошибок не избежать.
Но в отличие от автоматической системы человеку свойственна изменчивость мышления.
Именно поэтому наиболее распространенная система модерации является гибридной.
Когда машина выполняет рутинную работу, отфильтровывая отзывы по неким базовым критериям, а человек либо принимает окончательное решение (для нас это решение опубликовать отзыв), либо отвечает на жалобу (как мы писали выше, на вк.
ru модераторам пришлось вручную отключать блокировку аккаунта) .
Третий пример гибридной системы модерации — Booking.com (увы, канувший в пропасть), а также все перечисленные выше крупные медицинские обзорные сайты.
Для всех систем в первую очередь срабатывает автоматика, но если есть подозрение, что обзор недостоверен, система сообщает оператору о необходимости ручной проверки.
Например, если вы забронировали через сервис отель, отдохнули там и оставили деньги, только после этого вы сможете оставить отзыв, который при необходимости также может проверить модератор.
Это наиболее правильная стратегия, поскольку с ее помощью можно оценить, получил ли клиент реальный пользовательский опыт. Хотя и здесь не всегда легко защититься от клиентского экстремизма.
Что еще нужно учитывать
- Крайне важно учитывать специфику ниши, в которой будет работать тот или иной сервис отзывов.
Кстати, именно поэтому предложение Предложение Артемия Лебедева о создании универсальной электронной книги жалоб мы, как специалисты в области рецензирования, считаем бессмысленным.
Невозможно правильно оценить информацию в общем обзоре профиля.
Например, вы пошли в поликлинику на прием к терапевту.
Что-то пошло не так – и теперь вы пишете негативный отзыв о клинике.
Но правильно ли критиковать медицинское учреждение, если проблема, например, в компетентности конкретного врача? В итоге со специалистом в клинике можно было бы распрощаться уже давно, но отзыв продолжает публиковаться.
Особенности онлайн-образования заключаются в следующем: одно ООО или ИП может иметь большое количество онлайн-школ с разными названиями и разным качеством образования.
Но на общероссийском сайте отзывов вас попросят оставить отзыв именно об ИП или ООО, а не о конкретной онлайн-школе, и поэтому для создателей курса при большом количестве негативных отзывов это будет будет достаточно, чтобы сменить ИП и продолжать комфортно работать дальше, реализуя некачественный товар.
Есть много других нюансов, которые нельзя учитывать в контексте данной темы.
- Основная задача любой системы модерации — определить, была ли связь между сторонами сделки.
Мы считаем Avito, Booking, Яндекс.
Такси, Wildbury одними из лучших примеров реализации такой задачи.
У них есть подтверждение механики взаимодействия покупателя и продавца.
Авито собирает данные о вашей активности.
Она видит, что вы реальный пользователь: у вас есть фото, переписка с продавцами и покупателями, купленный товар.
Система определяет, что вы реальный человек.
Только после общения со второй стороной сделки у вас есть возможность оставить отзыв.
Похожую систему пытаются внедрить в сервисе «СберЗдоровье», но пока там много законодательных ограничений, поскольку «увидеть» деньги пациента в кассе клиники не очень просто.
У сервиса Wildbury есть свои сложности — они часто обходят систему, регистрируя большое количество фейковых покупателей, которые платят выкуп за то, чтобы оставить отзыв.
- Систему модерации придется постоянно совершенствовать.
Не существует идеальной системы модерации, которую можно сделать один раз и забыть.
Свой мы разрабатывали около полугода.
Прошло два месяца с момента запуска сервиса, но уже внесено много изменений.
Например, мы начали запрашивать подтверждающие документы у тех, кто хочет оставить отзыв об онлайн-школе.
Сначала мы делали это вручную, но после получения первых 200 отзывов пришли к выводу, что эти документы нам нужны в большинстве случаев, и поэтому сделали этот параметр обязательным.
Из последнего: сделали обязательным указывать номер телефона, так как внутренней системы уведомлений было недостаточно.
В связи с этим, после отправки отзыва на доработку, пользователь может не просмотреть свою почту и не увидеть там соответствующее сообщение.
Нам важно решить проблему, с которой пришел ученик, а значит, нужна оперативная обратная связь.
- Протестируйте систему на реальных пользователях Лучше запустить продукт и сразу его дорабатывать, редактировать «на лету», основываясь на реальном опыте работы с пользователями, чем бесконечно разрабатывать гипотезы и запускать его через пять лет, когда инструменты могут устареть и вы можете сгореть.
вне.
Теги: #Разработка стартапов #Алгоритмы #онлайн-курсы #Образовательный процесс в ИТ #Управление продуктом #Бизнес-модели #онлайн-обучение #алгоритм #онлайн-обучение #модерация #отзывы #обратная связь #отзывы клиентов
-
История Linux
19 Oct, 24 -
Удобный Способ Поиска Файлов Adobe Acrobat
19 Oct, 24 -
Отказоустойчивый Кластер Xendesktop
19 Oct, 24 -
Вебинар «Обзор Облачной Платформы Sap»
19 Oct, 24 -
Где Вы Собираетесь Встречать Новый Год?
19 Oct, 24
