Мошенник может не начинать с просьбы перевести деньги. Как ИИ в Сингапуре ищет схему разговора
Самое неприятное в мошеннической переписке — то, что первые сообщения в ней могут быть совершенно нормальными. Человек знакомится, обсуждает погоду, работу, общие интересы, потом появляется осторожная тема дохода, затем срочность, а просьба перевести деньги или раскрыть данные возникает уже на фоне выстроенного доверия. Если проверять каждое сообщение отдельно, ловить почти нечего: ни запрещённых слов, ни явной угрозы. Именно на этом ломаются простые фильтры по ключевым фразам.
Список подозрительных слов похож на металлодетектор, который пищит на пряжку ремня. Он реагирует на металл, но не понимает, зачем человек идёт в дверь. Анализ диалога — попытка посмотреть на последовательность: как устанавливается доверие, когда меняется тема, возникает срочность и появляется просьба о деньгах. Это сложнее и дороже чёрного списка, зато именно здесь проходит разница между «слово похоже на мошенническое» и «разговор развивается как мошеннический».
В разговорах про ИИ против мошенничества легко перескочить к выводу, что модель сейчас всё поймёт. В Сингапуре к этому шли двумя отдельными шагами. 14 октября 2026 года Google DeepMind объявила о совместной работе с Government Technology Agency of Singapore, или GovTech Singapore, над специализированной моделью выявления мошеннических переписок. 4 ноября 2026 года GovTech запустила открытую бету Android-приложения AntiScam Pango на конференции STACK 2026. Это два разных этапа: исследовательская разработка и публичный продукт, который пока тестируют. Смешивать их в один «Google запустил антимошеннический ИИ» удобно для заголовка, но неправильно по сути.
Что именно построили
По описанию DeepMind, схема состоит из двух ступеней. Сначала быстрый энергоэффективный классификатор просматривает входящие сообщения и отбирает потенциально опасные. Затем дообученная компактная Gemma анализирует более крупный фрагмент многоходового диалога, чтобы подтвердить угрозу или отбросить ложную тревогу. Первая ступень экономит ресурсы телефона, вторая пытается снизить число ложных тревог. Полный перечень поведенческих признаков, на которые смотрит модель, разработчики не раскрывают, так что судить о тонкости настройки приходится по описанию архитектуры и заявленным целям.
Локальная адаптация — отдельная история. Gemma дообучали на сингапурских сценариях: выдача себя за государственные учреждения, банки, известных местных лиц, актуальные региональные схемы. Разработчики упоминают миллионы токенов с актуальными для Сингапура шаблонами мошенничества. Это не универсальная модель «про мошенников вообще»: она знает местные названия, должности и привычные формулировки, которых общая языковая модель может просто не встретить в обучении.
Есть и важная оговорка. Во время беты партнёры продолжат тестировать и интегрировать дообученные компактные модели, а усиленный режим, который должен ловить схемы без очевидных ключевых слов, пока обозначен как «coming soon». Иными словами, архитектура DeepMind и текущие возможности Pango — не одно и то же, и по бете рано судить о том, как система будет работать в полную силу.
Почему разговор сложнее списка слов
Инвестиционная схема может начинаться с обычного знакомства или нейтрального разговора, а предложение вложить деньги и требование перевода появляются позднее. Первое сообщение само по себе может не содержать очевидных признаков мошенничества. Фильтр по словам увидит «инвестиции» и «доход», но эти же слова встречаются в нормальном разговоре. Смотреть приходится на развитие разговора, на смену темы и на давление — целиком, а не по кусочкам.
Фальшивое предложение работы устроено похоже. Важен не термин «работа», а последовательность: установление контакта, обещание дохода, давление, просьба перевести деньги или раскрыть данные. То же с выдачей за банк или госучреждение: мошенник может не писать «я мошенник», он имитирует процедуру, к которой человек привык. Модель должна увидеть не отдельное слово, а сценарий, в котором это слово работает.
Сообщение от знакомого контакта тоже проверяется, потому что аккаунт знакомого могут захватить. Здесь есть обратная сторона: добавление отправителя в список доверенных снижает число повторных предупреждений, но создаёт слепую зону. Если аккаунт потом захватят, пользователь может не получить предупреждение. Это компромисс между удобством и безопасностью, который разработчики признают открыто.
Где живут данные
Приложение читает входящие уведомления WhatsApp, Telegram и SMS/Google Messages и объединяет сообщения одного отправителя в разговор. Сами мессенджеры оно не открывает и переписку, существовавшую до установки, не просматривает. Анализ и хранение истории предупреждений идут локально, на смартфоне. Это ключевое отличие от схем, где каждое сообщение отправляется на сервер для проверки.
Но приватность здесь не абсолютная, и об этом стоит говорить прямо. Если пользователь сам отправляет жалобу, её текст, сведения об отправителе и время получения могут уйти наружу — в том числе в полицию Сингапура, Anti-Scam Command, ScamShield и другие государственные структуры. Такие данные могут использоваться для обучения и улучшения систем обнаружения мошенничества, а автоматическое скрытие идентификаторов не гарантирует удаления всех персональных сведений.
Кроме жалоб, при добровольном включении приложение передаёт обезличенную агрегированную статистику, а также служебную диагностику, сведения о версии приложения, модели и устройстве. В privacy statement указано, что часть аналитических, диагностических и связанных с обновлением модели данных обрабатывается Google LLC на серверах за пределами Сингапура. Это не отправка переписки на сервер, но и фраза «всё остаётся только в телефоне» будет неполной.
Про обучение разработчики говорят отдельно: дообучение шло в управляемой GovTech среде Google Cloud Platform, личные данные и частные сообщения граждан в обучающий набор не включались. Использовали обезличенные материалы из сообщений о мошенничестве и информационных каналов, а тестирование проводили на синтетических диалогах и локальных корпусах. Это официальное описание процесса, и в открытых материалах нет независимого аудита, который бы его подтвердил. Разница принципиальная: не «доказано», а «заявлено».
Цена ошибки
Ошибки признаны официально, причём в обе стороны. Приложение может пропустить сообщение, если чат отключён от уведомлений или пользователь уже читает разговор в момент поступления. Безопасное сообщение тоже может получить пометку как подозрительное. Разработчики прямо предупреждают, что ИИ ошибается, и это честнее, чем обещание стопроцентной защиты.
Технические ограничения беты стоит держать в голове. Pango доступна только на Android 12 и новее, требует не менее 6 ГБ оперативной памяти и понимает только английский. Проверяются WhatsApp, Telegram и SMS/Google Messages; Messenger, Instagram, WeChat, LINE и Signal не поддерживаются. Усиленный режим для схем, которые обходят очевидные ключевые слова, обозначен как «coming soon» и потребует не менее 8 ГБ памяти.
Самое важное ограничение — не техническое. В опубликованных материалах нет precision, recall, доли ложных тревог, размера независимой тестовой выборки или результатов реальной эксплуатации. Это не придирка к пресс-релизу, а причина, по которой нельзя сказать, что система «работает». Можно сказать только, что она существует, тестируется и описана разработчиками.
И ещё одна граница: приложение лишь предупреждает. Оно не блокирует, не удаляет и не перехватывает сообщения. Решение продолжить разговор, проверить отправителя или отправить жалобу остаётся за человеком. Автоматика здесь подсказывает, а не решает.
Что это меняет
Направление видно: этот проект показывает попытку DeepMind и GovTech перейти от проверки отдельных слов к контексту разговора. Плюс подхода в том, что основной анализ сообщений выполняется на устройстве, а не на сервере. Минус — качество зависит от локальных данных, языка и платформы. Скорее всего, перенос такой модели в другую страну потребует заново собирать сценарии: сингапурские схемы с госучреждениями и местными именами мало что скажут, например, немецкому пользователю.
Полезно помнить, что распознаются не личности, а признаки сообщения и разговора. Модель не вычисляет мошенника по лицу, голосу или «карме»; она смотрит на текст уведомлений и последовательность. Эта граница легко стирается в пересказах, а вместе с ней стирается и понимание того, что система может ошибаться.
Показательно и то, какой режим ещё не выпущен. Самый интересный сценарий — поиск схем без очевидных ключевых слов — пока обозначен как будущая функция. То есть бета показывает направление, а не результат. По-моему, это нормальное состояние для технологии, которая только выходит к людям, но выдавать её за готовое решение рано.
Если хочется разбираться в таких сюжетах не по одному пресс-релизу, а на практике — смотреть, как ИИ применяют в работе, автоматизации и повседневных задачах, — удобнее делать это в одном месте. Для этого есть GPT-Лаборатория: в Telegram (https://t.me/jopotology) и во ВКонтакте (https://vk.ru/jopotology) там разбирают конкретные инструменты и кейсы без обещаний, что нейросеть сейчас всё решит.
Главный вопрос в этой истории не в том, научится ли модель видеть манипуляцию в переписке. Скорее в том, согласны ли люди отдать разбор своих разговоров телефону — пусть и локально — и что будет считаться достаточной точностью, чтобы предупреждению начали верить. Пока у нас есть архитектура, официальные оговорки и открытая бета для трёх поддерживаемых каналов: WhatsApp, Telegram и SMS/Google Messages. Только отсутствие предупреждения не означает, что разговор безопасен, — об этом разработчики говорят сами.
