Самое неприятное в этой истории даже не то, что искусственный интеллект научился изображать заинтересованную женщину.
Это мы уже давно умеем.
Не самое неприятное и то, что фотографии можно сгенерировать, голос подделать, а романтическую переписку вести круглосуточно без сна, выходных и плохого настроения.
Настоящий перелом произошёл в другом месте.
Мошенники собрали нормальный работающий бизнес-процесс.
ИИ выполнял дешёвую массовую работу.
Человек подключался только тогда, когда клиент начинал сомневаться.
Видео позвонить?
Подключаем человека.
Добавить в соцсети?
Человек.
Нужен какой-то жест, который бот пока не умеет убедительно сделать?
Опять человек.
А всё остальное — автомат.
И именно поэтому эта история интересна далеко не только тем, кто сидит в приложениях знакомств.
Потому что перед нами почти идеальная схема автоматизации бизнеса.
Просто использованная для очень поганого бизнеса.
Всё началось с одного подозрительно активного аккаунта
В сентябре Anthropic опубликовала большой отчёт о злоупотреблениях её моделями.
Среди кибератак, слежки и других радостей цифрового мира обнаружилась довольно необычная операция.
Компания из Китая управляла сетью более чем из двадцати приложений знакомств.
Названия разные.
Dora.
Doni.
Romi.
Luma.
Jovia.
Kira.
И ещё пачка вариантов.
Снаружи — обычное приложение.
Фотографии.
Лайки.
Совпадения.
Девушка пишет первой.
Разговор идёт.
Можно покупать внутреннюю валюту и продолжать общение.
Только значительная часть девушек физически не существовала.
Три к одному
Anthropic наблюдала работу сети в течение двух недель апреля 2026 года.
За это время компания обнаружила более 4700 отдельных AI-персонажей.
Они общались как минимум с 25 тысячами реальных людей.
Всего Claude сгенерировал примерно 2,36 миллиона сообщений.
И главное — в ленте приложения искусственные и реальные профили были смешаны.
Соотношение примерно такое:
три AI-персонажа на одного настоящего человека.
То есть условный мужчина листает четыре привлекательных профиля.
В среднем три из них — машина.
Четвёртый — настоящий человек.
При этом приложение никак не сообщало, кто есть кто.
Наоборот.
Вся система специально строилась так, чтобы пользователь считал всех собеседниц реальными.
Причём ИИ не просто болтал
Можно представить обычного чат-бота.
Ему пишут:
— Привет.
Он отвечает:
— Привет! Как прошёл твой день?
Пять минут — и становится понятно, что разговариваешь с кофеваркой после курсов психологии.
Здесь всё было организовано серьёзнее.
Для каждого AI-персонажа задавали роль.
Манеру общения.
Историю.
Последовательность развития разговора.
Модель должна была всё время оставаться в образе.
Ей отдельно указывали не признавать, что она автоматизирована.
Если пользователь просил фотографию или видеозвонок, персонаж должен был увиливать.
Если разговор продолжался — поддерживать интерес.
Система отслеживала даже то, начал ли пользователь подозревать, что говорит с ботом.
Получается уже не чат.
Получается цифровой сотрудник со сценарием продаж.
Только продаёт он не кухню и не обучение.
Он продаёт человеку ощущение, что им заинтересовалась живая женщина.
А зачем тогда понадобились настоящие люди?
Вот здесь схема становится особенно занятной.
Потому что у ИИ есть слабое место.
Он великолепно генерирует переписку.
Но пользователь может сказать:
— Давай созвонимся.
Или:
— Добавь меня в Instagram.
Или попросить сделать что-нибудь прямо сейчас перед камерой.
Обычный чат-бот на этом заканчивается.
Операторы нашли решение, которым нормальный бизнес пользуется уже много лет.
Human handoff.
Передача человеку. Кстати, мы это используем в Market GPT
Только вместо оператора поддержки здесь были наняты gig workers — люди на сдельной работе.
Они включались в нужный момент.
Проводили настоящий видеозвонок.
Подтверждали профиль в социальной сети.
Выполняли действия, которые ИИ пока не мог убедительно подделать.
Пользователь видел живого человека и успокаивался:
— Ну всё, значит настоящая.
После этого значительную часть общения снова мог вести ИИ.
Даже человеку не обязательно было самому писать
Тут уровень автоматизации становится почти комичным.
Настоящему оператору тоже помогала нейросеть.
Когда нужно было ответить пользователю, другая модель предлагала три варианта сообщения.
Человек просто выбирал подходящий.
Нажал.
Отправил.
То есть даже там, где в процесс входил живой сотрудник, ему старались оставить минимум интеллектуальной работы.
Человек требовался в основном как физическое доказательство существования человека.
Очень странная профессия 2026 года.
Биологический модуль верификации нейросети.
Вся компания была собрана вокруг одной экономики
Теперь посмотрим на это не как на романтическое мошенничество, а как на бизнес.
Двадцать с лишним приложений.
Тысячи персонажей.
Десятки тысяч пользователей.
Миллионы сообщений.
Если бы каждую «девушку» обслуживал реальный сотрудник, экономика довольно быстро развалилась бы.
Нужны тысячи операторов.
Смены.
Обучение.
Контроль.
Менеджеры.
А главное — оператор может одновременно вести ограниченное количество разговоров.
ИИ работает иначе.
Один API может обслуживать огромное количество диалогов.
Ночь.
День.
Выходные.
Рождество.
Разговор на пятой минуте и разговор, который идёт уже неделю.
Человек появляется только на дорогом этапе, когда без него нельзя.
И исчезает обратно.
С точки зрения unit-экономики это почти образцовая автоматизация.
Этическая часть слегка подкачала.
Пользователь при этом платил за сам разговор
В приложениях использовалась внутренняя валюта.
Сообщения и другие действия расходовали лимит.
Закончились монеты — покупай ещё.
То есть чем дольше искусственная девушка удерживает человека в переписке, тем больше денег приносит профиль.
У системы появляется очень простой KPI:
не познакомить людей.
Не помочь им встретиться.
Не привести к отношениям.
А продлить диалог.
Это важное различие.
Потому что внешне продукт продаёт одно.
А зарабатывает на совершенно другом.
Если пользователь действительно встретит женщину и уйдёт из приложения, для такого бизнеса это вообще плохой клиент.
Самый прибыльный пользователь — тот, кто продолжает надеяться.
Самое страшное — схема прекрасно масштабируется
4700 AI-персонажей за две недели отправили примерно 2,36 миллиона сообщений.
Это около 169 тысяч сообщений в сутки.
Человек такого масштаба физически обеспечить не способен без огромного call-центра.
ИИ — способен.
Добавить ещё тысячу персонажей относительно просто.
Ещё десять тысяч пользователей — тоже.
Запустить приложение под новым названием — технически не проблема.
И здесь хорошо видно, что именно изменили современные модели в мошенничестве.
Сам обман старый.
Романтические мошенники существовали задолго до ChatGPT.
Изменились предельные издержки.
Раньше для каждой жертвы нужен был человек, который пишет, помнит легенду и поддерживает эмоциональный контакт.
Теперь значительная часть этого труда стала практически программной.
Причём это не просто проблема приложений знакомств
Та же логика прекрасно переносится куда угодно.
Фальшивая техподдержка.
Поддельный консультант.
Мошеннический инвестиционный менеджер.
Фиктивный рекрутер.
«Сотрудник банка».
Человек в такой системе становится редким дорогим ресурсом, который подключают только там, где машина ещё не проходит проверку.
Остальное автоматизируется.
Мы довольно долго представляли AI-мошенничество как:
один мошенник попросил ChatGPT написать письмо.
Это уже устаревшая картинка.
Следующий уровень выглядит так:
воронка + CRM + несколько моделей + автоматические персонажи + операторы на исключениях + платежи + аналитика.
То есть полноценная компания.
И это, кстати, ровно та же архитектура, которую нормальный бизнес должен использовать честно
Вот здесь история становится особенно полезной.
Потому что техническая идея сама по себе совершенно нормальная.
Не держать человека на каждой операции.
Пусть ИИ выполняет 80–90% стандартного процесса.
Человек подключается, когда:
клиент задаёт сложный вопрос;
нужно принять нестандартное решение;
появился дорогой лид;
нужно договориться о конкретных условиях;
автоматика обнаружила низкую уверенность.
Мы именно поэтому в Market GPT строим ИИ-продавца не как робота, который обязан во что бы то ни стало изображать человека до победного конца.
Наоборот.
Его задача — быстро понять запрос, провести стандартную часть разговора и нормально передать человека живому сотруднику там, где живой сотрудник реально нужен.
Та же архитектура.
Противоположная цель.
И очень наглядный пример того, почему проблема никогда не находится только в самой технологии.
Потому что слово «ИИ» здесь вообще вторично
Представим, что все 4700 персонажей обслуживали бы настоящие люди.
Мошенничество внезапно стало бы честным?
Нет.
Проблема в другом.
Пользователю обещали реального человека.
Давали искусственного.
Скрывали подмену.
Брали деньги за продолжение взаимодействия.
А живого оператора использовали специально для того, чтобы укрепить ложное доверие.
ИИ всего лишь сделал процесс дешёвым и масштабируемым.
И это довольно важное правило для всей дискуссии об искусственном интеллекте.
Технология очень редко создаёт новый человеческий порок.
Она делает старый намного производительнее.
Но обнаружили операцию тоже благодаря ИИ-инфраструктуре
Есть ещё один интересный слой.
Anthropic заметила аномальную активность.
Дальше начала раскручивать сеть аккаунтов, паттерны использования, инфраструктуру и взаимодействие разных моделей.
В итоге аккаунты заблокировали.
Информацию передали другим AI-компаниям, Apple и Google.
Получается очередная гонка автоматизации.
Одни используют ИИ, чтобы масштабировать мошенничество.
Другие используют автоматический анализ, чтобы его обнаруживать.
Потом первые меняют схему.
Вторые меняют детекторы.
Очень знакомая история для любой технологической платформы.
Спам проходил примерно тот же путь.
А обычному человеку становится всё сложнее проверять реальность
Раньше существовал довольно хороший совет:
— Если сомневаешься, попроси видеозвонок.
В этой схеме он уже ломается.
Потому что видеозвонок может провести настоящий человек.
Но это не значит, что именно этот человек писал вам последние три дня.
Другой совет:
— Добавь в соцсетях.
Тоже не гарантия.
Настоящий оператор может подтвердить аккаунт.
Даже сама фотография перестаёт помогать.
Раньше подозрительный снимок можно было прогнать через поиск и найти украденный оригинал.
Сегодня AI-фотография вообще может не иметь оригинала.
Она существует только для одного профиля.
Мы постепенно приходим в неприятный мир, где доказать существование человека сложнее, чем создать убедительное доказательство его существования.
И вот здесь начинается кризис доверия
В начале 2026 года в опросах уже большинство пользователей приложений знакомств говорили, что AI-контент сделал онлайн-знакомства менее надёжными.
И дело даже не в количестве мошенников.
Достаточно самого подозрения.
Человек пишет идеально.
Подозрительно.
Фото слишком хорошее.
Подозрительно.
Отвечает быстро.
Подозрительно.
Отвечает медленно.
Наверное, тоже что-то задумал.
Платформа знакомств держится на одном ресурсе, который невозможно купить видеокартами.
Доверии.
Когда оно разрушается, качество технологии перестаёт иметь значение.
Можно построить идеальный алгоритм рекомендаций.
Если пользователь считает половину рекомендаций выдуманными, продукт сломан.
Получается довольно забавный парадокс
ИИ должен был улучшить знакомства.
Подобрать человека.
Помочь написать первое сообщение.
Убрать мусор.
Понять совместимость.
А вместо этого одна из самых успешных AI-архитектур в этой области оказалась системой промышленного производства несуществующих отношений.
И технически она была весьма неплохо сделана.
Разные модели выполняли разные роли.
Автоматизация обрабатывала массовый поток.
Люди включались только на узких местах.
Контролировалась воронка.
Считалась монетизация.
Масштабировались приложения.
Можно было бы показывать на конференции как красивый кейс AI-first бизнеса.
Если бы бизнес не заключался в том, чтобы обманывать клиентов.
Поэтому главный урок здесь на самом деле предпринимательский
Я много работаю с автоматизацией, и один вопрос возникает постоянно:
что оставить человеку?
Обычно все пытаются начать с обратного.
Что отдать ИИ?
Текст.
Поддержку.
Продажи.
Аналитику.
Звонки.
Но архитектурно полезнее спросить:
где человеческое участие действительно создаёт максимальную ценность?
Если 80% процесса стандартны — автоматизируем.
Если на двадцатом проценте нужно доверие, ответственность, переговоры или нестандартное решение — туда ставим человека.
Мошенники из этой истории поняли принцип прекрасно.
Они просто направили его в максимально мерзкую сторону.
Нормальному бизнесу осталось взять архитектуру и выбросить обман.
Потому что будущее, похоже, именно гибридное
Не «ИИ заменит всех людей».
И не «ИИ останется просто помощником».
Гораздо вероятнее другое.
Один человек будет управлять объёмом работы, который раньше требовал десять, сто или тысячу сотрудников.
Автоматика делает рутину.
Человек появляется на исключении.
Потом снова исчезает.
В хорошем бизнесе клиент знает, где разговаривает с ИИ, а где с человеком.
В плохом — именно эту границу и пытаются спрятать.
История с приложениями знакомств просто дала нам очень ранний и очень неприятный пример того, насколько эффективной может быть такая схема.
Три профиля из четырёх — машина.
Но достаточно одного настоящего человека в нужный момент, чтобы вся конструкция казалась реальной.
И, пожалуй, это гораздо более тревожный показатель развития ИИ, чем очередной тест, где новая модель набрала на три процента больше старой.
Потому что бенчмарк показывает, насколько модель стала умнее.
А эта история показывает, насколько дешевле стало масштабировать человеческое доверие.
