Такие сообщения в чатах городов, районов и ЖК сейчас приходят пачками, и они хорошо продуманы. Сумма правдоподобная, время конкретное, тон как у соседа. Вместо ссылки — «пиши +», вместо названия компании — ничего. Это вербовка в дропы и курьеры, и написана она ровно так, чтобы фильтр по словам её не заметил.
Можно, конечно, добавить в стоп-лист «на руки» и «в лс». Через день вы обнаружите, что удаляете соседа, который просит помочь донести диван и обещает заплатить.
Сообщение, на которое нечего поставить в стоп-лист
Стоп-слова отлично работают против спама, у которого есть постоянная примета: ссылка на казино, один и тот же текст про сигналы, слово «пассивный доход». Мы сами держим такой фильтр, и для многих чатов его хватает за глаза. Ломается он там, где спамер пишет обычным языком.
Вот что проходит мимо почти любого словаря. Реклама канала без ссылки: «у нас в канале разбирают такие случаи, найдёте по названию». Предложение «пообщаться в личке» с аватаркой из 18+. Крипта, где ни разу не сказано «крипта», а только «x50 за неделю, место ещё есть». И та самая «подработка» — каждый день с новой суммой и новой формулировкой. Перечислить всё это словами нельзя: слова меняются каждую неделю, а намерение остаётся тем же.
Человек такое видит с первого взгляда. Нейросеть — примерно так же: она читает сообщение целиком и оценивает, что оно пытается сделать, а не какие слова в нём стоят.
Стоп-слово ищет слово. Нейросеть ищет намерение: продать, заманить, завербовать.
ИИ-модератор вместо дежурного админа
Обычно эту работу делает живой человек. Админ или пара модераторов-добровольцев заглядывают в чат утром, в обед и перед сном. Спамеры это знают и приходят в остальное время: сообщение, отправленное в три часа ночи, провисит до утра, и его прочитают все, кто проснулся раньше админа.
ИИ-модератор закрывает как раз эти часы. Нейросеть для модерации не уходит спать и не откладывает чат на потом — сообщения новых и незнакомых участников она читает сразу, как они пришли. Решает она при этом меньше, чем живой модератор, и это сделано намеренно: убрать сообщение или записать его в журнал — да, выгнать человека из чата — нет. Это остаётся за вами.
Что читает ИИ-модератор и где
В TGuard ИИ-антиспам — это отдельная вкладка «AI-фильтр» на странице настроек антиспама, рядом со «Стоп-словами», «Правилами» и «Журналом». Нейросеть читает сообщения в чате и комментарии под постами канала. С комментариями оговорка та же, что и у любого бота: они живут не в канале, а в связанной группе обсуждения, и TGuard должен быть добавлен туда. Тогда спам в комментариях телеграм-канала проверяется наравне с обычным чатом — а это как раз то место, куда спамеры идут охотнее всего.
Ищет она пять вещей: рекламу, мошенничество, крипту, вербовку и «подработки», 18+. Плюс шестая категория, которую задаёте вы сами, — о ней ниже.
Проверяются не все подряд. Сообщения админов не трогаются никогда. Участник, который уже попадался на спаме, ловится сразу, без второй проверки. А тот, кто давно пишет нормально, со временем перестаёт проверяться вовсе — нейросеть сосредоточена на новых и незнакомых отправителях, а не на ваших постоянных собеседниках.
Удалять или только записывать
Реакций у AI-фильтра три: выключено, записывать, удалять. Банить нейросеть не умеет — и это решение, а не недоработка. Убрать сообщение — одно дело, закрыть человеку вход в чат — другое, и второе мы оставляем людям и правилам, которые вы настроили сами. В режиме «удалять» сомнительное всё равно не удаляется, а только записывается.
Всё, что фильтр пометил, попадает в «Журнал» с бейджем причины: «AI: реклама», «AI: мошенничество», «AI: крипта», «AI: 18+», «AI: вербовка», «AI: правило чата», «AI: уже спамил», «AI: подозрительно». Хранится журнал 30 дней. На старте мы советуем «записывать»: пару дней читаете журнал, видите, на что реагирует фильтр в вашем чате, и только потом включаете удаление. Это тот же порядок, что и для обычных правил против спама в группе, и он себя окупает.
Правило своими словами
Спам — понятие местное. В чате барахолки «продам коляску, 3000» — нормальное сообщение. В чате родителей школы — реклама. Общие правила нейросети этого не знают, поэтому на вкладке есть поле «Уточнения для вашего чата», до 500 знаков. Пишете как человеку:
- любые вакансии и подработки — спам;
- объявления о продаже вещей — не спам, у нас барахолка.
Этот пример взят прямо из интерфейса, и он хорошо показывает идею: уточнение может как расширить понятие спама, так и сузить. Сработавшее по вашему уточнению попадает в журнал с бейджем «AI: правило чата», так что видно, какая часть работы — ваша.
Рядом кнопка «Проверить на последних сообщениях». Она прогоняет недавнюю переписку чата через нейросеть и показывает, что та пометила бы, — ещё до того, как вы что-то включили. Поменяли уточнение, нажали ещё раз, сравнили. Пять минут такой проверки заменяют неделю наблюдений за живым чатом.
«Всем привет», а через час — реклама
Есть приём, против которого бесполезна любая проверка текста в момент отправки. Аккаунт заходит и пишет «всем привет, давно читаю». Фильтры смотрят — чисто. Модератор смотрит — чисто. Сообщение висит, его прочитали и пролистали. А потом спамер его редактирует, и на месте приветствия появляется реклама со ссылкой. Новых уведомлений нет, участники в старые сообщения не возвращаются, и реклама висит неделями.
Для этого в TGuard есть отдельное правило «Поздняя правка» на вкладке «Правила». Оно срабатывает, если сообщение отредактировали позже заданного времени после отправки. По умолчанию это 10 минут: опечатку человек исправляет сразу, а спамеру нужно, чтобы сообщение успели прочитать и забыть. Если в вашем чате правки вообще не нужны, поставьте 0 — тогда сработает любая правка. Реакцию, как и у остальных правил, выбираете сами, а в журнале такие случаи помечены бейджем «Поздняя правка».
Что оставить обычным правилам
Нейросеть не заменяет остальную защиту, и включать её первой стоит не всем. Если ваш чат страдает от одинаковых ссылок, проще и быстрее работает фильтр ссылок и правило известного нарушителя. Если в группу заходят волны аккаунтов с иероглифами или арабской вязью, для этого есть правило «Алфавит стран»: оно смотрит на иврит, хинди, тайский, китайский, японский, корейский и арабский — и в тексте сообщения, и в имени отправителя. Откуда эти волны берутся, мы разбирали в статье о том, почему на канал подписываются боты.
Слои работают вместе. Стоп-слова и ссылки ловят предсказуемое, база нарушителей — аккаунты, которые уже спамили в других каналах, а ИИ-антиспам закрывает то, что написано нормальным человеческим языком. Если вы сейчас выбираете между ботами, разница с Combot и Group Help у нас разобрана отдельно — там в основном про уровень аккаунтов, а не текста.
Как включить
- Добавьте @channel_guardian_bot в чат администратором с правом удалять сообщения. Для комментариев — в связанную группу обсуждения.
- Включите «Защиту от спама» и откройте страницу настроек чата из бота.
- На вкладке «AI-фильтр» напишите уточнения для своего чата, если они нужны, и нажмите «Проверить на последних сообщениях».
- Поставьте реакцию «записывать» и загляните в «Журнал» через день-два.
- Всё устраивает — переключите на «удалять». Заодно включите «Позднюю правку» на вкладке «Правила».
Защита чата от спама долго была спором о том, какие слова запретить. Бот для удаления спама с нейросетью убирает этот спор: вам не нужно угадывать следующую формулировку спамера, достаточно один раз описать, что для вашего чата нормально.
Частые вопросы
Нет. У AI-фильтра всего три положения: выключено, записывать и удалять. Бана по решению нейросети нет вообще, а сообщения, в которых она не уверена, только попадают в журнал. Банить по-прежнему могут обычные правила — стоп-слова, ссылки, известные абьюзеры, — если вы им это разрешили.
Да, если TGuard добавлен в связанную группу обсуждения. Комментарии под постами живут в этой группе, а не в самом канале, поэтому нейросеть читает их так же, как сообщения обычного чата.
Да. На вкладке «AI-фильтр» есть поле уточнений до 500 знаков: своими словами пишете, что в вашем чате спам, а что нет, — например, что вакансии запрещены, а продажа вещей разрешена. Нейросеть учитывает это поверх общих правил, а кнопка «Проверить на последних сообщениях» сразу показывает, что изменилось.