Питомник Росток
Росток - ИИ-модератор комментариев в соцсетях
Модератор для Ростка проверяет комментарии в ВК, YouTube и Телеграме, защищает покупательские обращения и дает SMM журнал, паузу и контроль удаления в MAX.
Перейти к разборуРосток - ИИ-модератор комментариев в соцсетях

Содержание разбора
у питомника Росток комментарии приходят из нескольких соцсетей. Среди них есть вопросы о растениях и заказах, благодарности, спам и негатив. SMM приходится следить за каждой лентой и решать, что требует реакции
я собрал модератор для ВК, YouTube и Телеграма. Он проверяет новые комментарии, удаляет уверенные случаи по заданным правилам и показывает сотруднику причину решения в MAX
покупательский вопрос должен дойти до сотрудника, даже если человек написал его раздраженно. Вокруг этого построены порядок проверки и контроль удаления
Сначала сохранить обращение покупателя
модель сначала определяет смысл комментария. Если распознано обращение по покупке или заказу, система сохраняет его и передает сотруднику. Такая ветка проходит раньше черного списка
негативная окраска и потребность в помощи учитываются раздельно. Это позволяет оставить обращение о заказе, которое иначе могло бы попасть под обычный фильтр негатива
для остальных комментариев работают белый и черный списки, затем порог уверенности. Вопросы, благодарности и случаи ниже порога остаются в обсуждении. При ошибке классификации комментарий тоже сохраняется, а сбой попадает в журнал
SMM меняет правила в привычной таблице
на листе Модерация настройки сотрудник выбирает один из трех режимов чувствительности, задает порог предупреждения о всплеске удалений и может включить паузу
пауза приостанавливает удаления по решению модели, журнал продолжает работать. Правила черного списка проверяются раньше паузы, поэтому для полной остановки удаления нужно учитывать и их

сервис перечитывает настройки из таблицы. Для ежедневного контроля в MAX есть последние решения, суточная сводка, смена чувствительности, пауза и возобновление
У удаления есть причина и история
после удаления в MAX приходит карточка с площадкой, текстом, причиной и сведениями о повторных случаях. Сотрудник может проверить решение, не разыскивая комментарий в разных лентах
журнал сохраняет и удаленные, и оставленные комментарии. Для каждого видны класс, действие, порог и уверенность. Поэтому можно разбирать конкретное решение, а не судить о работе бота по общему счетчику

восстановление зависит от площадки. Для ВК и YouTube предусмотрена отмена удаления. В Телеграме восстановить удаленный комментарий этим способом нельзя. Неясный результат внешнего действия отправляется на ручную сверку
блокировку автора сотрудник решает сам. Бот работает с конкретным комментарием
Что я разработал
Сбор комментариев
ВК через Long Poll, YouTube по расписанию, Телеграм через группу обсуждений канала
Классификация
Модель через OpenRouter, приоритет покупательского обращения, списки и управляемый порог удаления
Контроль сотрудника
Карточки и команды в MAX, настройки и журнал в Гугл-таблице
Сохранение решений
Python и Docker, PostgreSQL, защита от повторных действий и очистка текстов и имен через 90 дней
SMM получил общий контроль над модерацией нескольких площадок. Система берет на себя проверку потока, а сотрудник видит причины, может менять правила и разбирать конкретные ошибки
На чем собрано
Python · Docker · PostgreSQL · OpenRouter · GPT-5.4 Nano · VK API · YouTube Data API · Telegram Bot API · MAX Bot API · Google Sheets