Авито, одна из самых популярных онлайн-платформ в России, ежедневно получает более трех миллионов объявлений от пользователей. Однако, не все эти объявления попадают на сайт, поскольку многие из них нарушают правила платформы и должны быть заблокированы. Чтобы обеспечить безопасность и качество сервиса, Авито использует многоуровневую систему модерации, которая включает автоматическую фильтрацию и ручную премодерацию. Давайте рассмотрим подробнее, как работает эта система и какие методы применяются для обработки объявлений.
Автоматическая система фильтрации
Первым этапом модерации на Авито является проверка объявлений автоматической системой. Для каждого правила размещения на платформе разработана машинно-обучаемая модель, которая анализирует объявления и определяет вероятность нарушения конкретного правила. Всего на платформе используется около 200 таких моделей.
Автоматическая система анализирует различные компоненты объявлений, включая заголовок, описание, параметры товара или услуги, а также фотографии. Она также учитывает контекст, связанный с историей пользователя, например, предыдущие объявления и аккаунты, использованные пользователем. Это позволяет выявить спамеров, которые могут регистрировать множество учетных записей.
Один из распространенных случаев блокировки объявлений — повторная подача. Некоторые пользователи случайно размещают одно и то же объявление дважды из-за технических проблем или не дожидаясь премодерации первого объявления. Автоматическая система учитывает такие ситуации и может предложить пользователю отредактировать уже существующее объявление, чтобы избежать создания дубликатов.
Однако есть и те, кто специально создает несколько объявлений для одного товара, особенно в конкурентных категориях, например, в разделе «Недвижимость». Для борьбы с такими случаями, Авито применяет нейронные сети для анализа фотографий. Эти сети способны определить, являются ли разные фотографии одного и того же товара. Однако, поскольку разные пользователи могут продавать одинаковые вещи, использование этой технологии не всегда возможно.
Ручная премодерация
Хотя более 90% объявлений обрабатываются автоматически, в некоторых случаях требуется ручная премодерация. Если автоматическая система не может однозначно определить нарушение или вероятность нарушения находится в пограничном диапазоне, объявление отправляется на ручную проверку.
Ручная премодерация на Авито разделена на две линии. Сотрудники первой линии занимаются проверкой компонентов объявлений, отмеченных автоматической системой как подозрительные. Они также рассматривают жалобы пользователей, которые могут сигнализировать о нарушениях или сбоях в автоматической системе. Эти модераторы специализируются в определенных рубриках, чтобы увеличить эффективность премодерации.
Вторая линия ручной премодерации обрабатывает объявления на уровне аккаунта автора. Она включает проверку не только самого объявления, но и его контекста. Это помогает выявить спамеров, которые используют различные методы обхода системы.
Примеры применения модерации на Авито
При продаже животных модераторы проверяют соответствие объявления требованиям законодательства и правилам платформы. Например, продажа защищенных видов животных, включенных в Красную книгу, запрещена на Авито. Модераторы, специализирующиеся на этой теме, обладают знаниями о различных видах животных и могут определить нарушение.
В разделе «Недвижимость» модераторы обращают особое внимание на подозрительные объявления, которые могут содержать ложную информацию или мошеннические схемы. Они также могут проверять подлинность фотографий и описаний, чтобы обнаружить случаи повторной подачи или манипуляции информацией.
Модераторы регулярно совершенствуют свои навыки и знания, чтобы быть в курсе новых методов обхода правил и нарушений. Они обмениваются опытом и информацией внутри команды модерации, что помогает более эффективно выявлять и предотвращать нарушения.
Как платформа борется с нарушениями и обеспечивает безопасность
Модерация объявлений играет ключевую роль на платформе Авито, гарантируя безопасность и надежность для миллионов пользователей. Чтобы бороться с нарушениями и предотвращать мошенничество, Авито применяет автоматические системы и ручную премодерацию. Нарушения в объявлениях могут быть разнообразными, от неправильно выбранной категории до повторной подачи и мошеннических схем.
Пример: Пользователь разместил объявление о продаже сумки в категории «Кошки». Автоматическая система обнаруживает несоответствие и отклоняет объявление, предложив пользователю выбрать правильную категорию «Для дома и дачи» / «Ремонт и строительство» / «Стройматериалы».
Пример: Модератор второй линии обнаруживает объявление о продаже контрафактного iPhone X, где цена значительно ниже рыночной стоимости. Он блокирует объявление и предотвращает попытку мошенничества.
Санкции и последствия
Авито применяет три вида санкций в ответ на нарушения в объявлениях:
- Отклонение объявления: Эта мера применяется, когда нарушение не является критичным и может быть исправлено. Например, если объявление было размещено в неправильной категории, пользователю будет отправлено сообщение с объяснением ошибки и инструкциями по исправлению.
- Блокировка объявления: Если нарушение не может быть исправлено или пользователь нарушает правила систематически, объявление блокируется. Только одно объявление остается активным, а все дубликаты блокируются.
- Блокировка учетной записи: Если пользователь систематически нарушает правила, занимается мошенничеством или нарушает множество серьезных правил, его учетная запись блокируется. Авито использует контекстный анализ и отслеживает связи между учетными записями, чтобы предотвратить создание новых аккаунтов.
Пример: Пользователь, несмотря на предупреждения и предыдущие блокировки объявлений, продолжает размещать мошеннические объявления. В результате его учетная запись блокируется, чтобы защитить других пользователей от потенциальных мошеннических схем.
Модерация объявлений на Авито играет важную роль в обеспечении безопасности и доверия пользователей. Комбинация автоматической системы и ручной премодерации помогает обнаруживать и пресекать нарушения, предотвращая мошенничество и создавая надежную платформу для торговли. Несмотря на возможные ошибки, Авито продолжает совершенствовать свои методы модерации, стремясь обеспечить максимальную защиту и комфорт для пользователей.