ИИ ищет за вас. Проверять найденное всё равно придётся вам
Пользователь задаёт вопрос, получает аккуратный ответ на семь абзацев и десять ссылок под ним. Выглядит как хорошо сделанная работа: структура, цифры, подтверждения. Дальше начинается скучная часть. Первая ссылка открывается на страницу без автора и даты, где та же мысль пересказана другими словами, вторая ведёт на сайт, который ссылается на третий сайт с тем же текстом, а третья вообще не содержит той цифры, ради которой её поставили. Формально поиск сработал — доказательства не нашлось.
В этом главный парадокс генеративного поиска: он сокращает путь до ответа и удлиняет путь до подтверждения. Раньше человек шёл в поиск за списком ссылок и сам решал, что открывать. Теперь он получает готовую формулировку, и соблазн принять её целиком огромен — особенно когда под ней стоит десяток аккуратных ссылок. Чем больше контента создаёт ИИ, тем ценнее становится не генерация ответа, а способность установить происхождение и надёжность факта.
Ссылка под ответом не равна подтверждению
Самая полезная цифра в этой теме получена не из маркетинговых отчётов, а из академической работы, где исследователи взяли четыре генеративных поисковика — Bing Chat, NeevaAI, Perplexity.ai и YouChat — и проверили, насколько их ответы действительно подтверждаются приведёнными ссылками. Только 51,5% предложений оказались полностью подтверждены источниками, и лишь 74,5% самих ссылок действительно подтверждали то утверждение, рядом с которым стояли. Оговорка обязательна: речь идёт о конкретных системах в 2023 году, а не о рейтинге сегодняшних продуктов. Переносить эти проценты на текущие версии было бы нечестно, но механика проблемы никуда не делась — она не про качество конкретной модели, а про устройство жанра.
Исследователи разделили два независимых критерия, и это разделение стоит запомнить любому, кто пользуется ИИ-поиском. Полнота цитирования: все ли проверяемые утверждения снабжены источником. Точность цитирования: подтверждает ли каждая конкретная ссылка именно то предложение, рядом с которым стоит. Ответ может провалиться по любому из двух. Бывает текст, где ссылка есть у каждого второго предложения, но половина ссылок говорит о другом, — и обилие сносок создаёт ложное ощущение доказанности. Бывает наоборот: ссылок мало, но каждая ведёт точно куда надо.
Количество ссылок ничего не гарантирует — проверять надо покрытие. Когда ИИ одним предложением соединяет дату, число и вывод о причине, а ссылка подтверждает только дату, всё предложение доказанным не становится. Формально сноска на месте, фактически её нет.
Как устроен мусорный слой
Вторая часть проблемы — объём. Мониторинговая организация NewsGuard ведёт реестр сайтов, которые относит к ИИ-контент-фермам. По состоянию на 23 июня 2026 года в нём было 3 749 новостных и информационных сайтов на 16 языках. Критерии отбора довольно жёсткие: существенная часть материалов создана ИИ, значимого редакционного контроля нет, сайт при этом выглядит как обычное человеческое издание, а применение ИИ не раскрыто.
Тут нужны две оговорки, иначе число начнёт жить своей жизнью. Во-первых, это реестр одной коммерческой организации, которая занимается мониторингом информационной надёжности, а не государственный регулятор и не академический институт. Во-вторых, это не полная перепись ИИ-сайтов интернета, а подсчёт выявленных: по нему нельзя определить, сколько контент-ферм существует на самом деле. Что число показывает уверенно, так это направление — речь о тысячах доменов, а не о десятке экспериментаторов.
Экономика этого слоя объясняет, почему он растёт. Сайты в реестре NewsGuard публикуют десятки материалов в день, а часть из них может получать доход от программной рекламы, при размещении которой качество площадки не всегда проверяется вручную. Получается циничная механика: дешёвый контент привлекает трафик, трафик конвертируется в автоматические показы, показы финансируют следующий объём дешёвого контента. Стимул здесь не в том, чтобы кого-то обмануть разово и красиво. Стимул в том, чтобы производить много и дёшево.
Отдельный сюжет — как генеративный поиск относится к таким страницам. Исследование поведения Google AI Overviews, представленное в 2026 году, разбирало запросы категории YMYL — те, что касаются здоровья, финансов и безопасности. В изученной выборке документы, которые авторы определили как созданные ИИ, цитировались чаще человеческих текстов, причём разрыв сохранялся даже после поправки на позицию документа в поисковой выдаче. Звучит тревожно, но рамки надо держать в голове: это наблюдательное исследование одной системы на одной выборке запросов. Оно не доказывает, что так ведут себя все ИИ-поисковики, и не означает, что каждая синтетическая страница вредна. И оно не объясняет причину — работа фиксирует, что синтетические страницы цитировались чаще, но почему это происходило, не устанавливает. Версии про то, что таких страниц просто больше или что они лучше оптимизированы под машинное чтение, остаются моими предположениями, а не выводами исследования.
Google не запрещает ИИ-тексты, и это важно
Соблазнительно свести всё к формуле «текст написал ИИ — значит это спам». Позиция Google эту формулу опровергает. Компания прямо допускает использование генеративного ИИ для исследования темы, структурирования материала и работы над оригинальным текстом. Нарушением считается другое — массовое создание страниц без дополнительной ценности для пользователя, то, что в правилах называется scaled content abuse.
Разница принципиальная. Проблема не в инструменте, а в производстве большого количества производных страниц ради поискового трафика. Один человек, который разобрался в теме с помощью ИИ, проверил факты и написал свой текст, и конвейер на тысячу страниц с пересказом одного пресс-релиза — разные явления, даже если в обоих случаях использовалась одна и та же модель. Критерии здесь — оригинальность, добавленная ценность и цель публикации, а не факт применения нейросети.
Десять сайтов — это один источник
Самая коварная ловушка синтетического интернета выглядит безобидно. Девять сайтов пересказывают одну публикацию. Для поисковой системы это девять документов. Для человека, который проверяет факт, это один источник и девять зависимых копий. Независимого подтверждения здесь нет вообще, сколько бы доменов ни выстроилось в ряд.
Типичная цепочка тянется назад через несколько посредников. ИИ-обзор ссылается на SEO-статью, статья пересказывает другой обзор, тот опирается на пресс-релиз, а пресс-релиз — на исследование, документ, реестр, судебное решение или прямое заявление участника. Проверка означает движение назад по этой цепочке до точки, где факт возник впервые. Всё, что стоит между вами и этой точкой, — пересказ, и каждый пересказ добавляет вероятность ошибки.
Отдельная морока — даты. Дата события, дата выхода первоисточника, дата появления копии и дата последнего обновления страницы могут не совпадать, иногда на годы. Свежая дата вверху страницы не делает старые данные новыми: сайт могли обновить, поменяв заголовок и меню, а цифры оставить из публикации пятилетней давности. Споры часто возникают именно из-за этого: люди смотрят на разные даты одного и того же процесса и не понимают, что спорят не о факте.
Смежная проблема, которую постоянно путают с этой
Есть исследование, которое в таких обсуждениях вспоминают почти всегда и почти всегда не к месту. Работа, опубликованная в Nature 24 июля 2024 года, показала риск model collapse: если неизбирательно обучать модели на материалах, созданных предыдущими поколениями моделей, качество может деградировать, и в первую очередь теряются редкие элементы исходного распределения данных. Это серьёзный результат с понятными следствиями для тех, кто готовит обучающие данные.
Но это работа про обучение, а не про достоверность текущей поисковой выдачи. Она не доказывает, что действующие модели уже деградируют, и не означает, что любой синтетический контент вреден — отфильтрованные и проверенные данные могут быть вполне пригодны. Смешивать две разные проблемы в одну страшилку удобно для заголовков и вредно для понимания. Загрязнение веб-поиска синтетическими страницами и деградация моделей при рекурсивном обучении — два разных сюжета с разными причинами и разными способами защиты.
Как должна выглядеть нормальная проверка
Отраслевые рекомендации на этот счёт существуют, и они довольно конкретны. Профиль управления рисками генеративного ИИ NIST AI 600-1 предлагает документировать методы фактчекинга, особенно когда сведения пришли из нескольких источников или источники неизвестны, а также отслеживать происхождение контента и данных. На человеческий язык это переводится так.
- Разбить готовый ответ на отдельные проверяемые утверждения — проверять текст целиком бессмысленно.
- К каждому утверждению потребовать источник и точный фрагмент, который его подтверждает.
- Установить автора или организацию, несущую ответственность за документ.
- Разделить дату документа и дату описываемого события.
- Выйти на первоисточник, а не остановиться на пересказе.
- Свести копии и перепечатки в одну цепочку происхождения.
- Искать независимое подтверждение — другие данные, других авторов, другие организации, а не другой домен с тем же текстом.
- Явно фиксировать противоречия и нехватку данных вместо того, чтобы закрывать пробел уверенным тоном.
Последний пункт важнее, чем кажется. Хорошая система проверки отличается от плохой не тем, что всегда находит ответ, а тем, что умеет остановиться и сказать: здесь данных недостаточно. Уверенный тон при отсутствии доказательств — самый распространённый дефект и у людей, и у моделей.
Ссылка как приглашение к проверке
По-моему, самое интересное следствие всей этой истории касается не технологий, а привычек. Генеративный поиск приучил нас к мысли, что ответ приходит готовым и оформленным. Проверка требует обратного движения: разобрать, усомниться, дойти до документа. Это медленно и раздражает, особенно когда ответ выглядит убедительно.
Можно прочитать ситуацию и как шанс. Раньше ссылка работала как грубый, но приемлемый сигнал надёжности. Теперь, когда копий стало больше, чем оригиналов, ссылка перестала быть сигналом и стала приглашением к проверке. Требование к читателю выросло, но выросла и цена ошибки: синтетические страницы научились выглядеть аккуратнее многих человеческих. Зато и инструменты проверки никуда не исчезли — реестры, архивы, официальные документы и первоисточники по-прежнему доступнее, чем кажется.
Если не хочется собирать десяток отдельных нейросервисов, а поработать с разными моделями в одном месте, для таких задач есть Syntx AI — сервис, где собрано много нейроинструментов под одним интерфейсом. Удобно, когда нужно посмотреть, как разные модели отвечают на один и тот же вопрос и где они расходятся. Но честная оговорка обязательна: набор моделей сам по себе не заменяет проверку первоисточников. Сравнить две формулировки — не то же самое, что подтвердить факт.
Ценность смещается, и это, на мой взгляд, надолго. Красивый ответ скоро перестанет быть конкурентным преимуществом — его научатся генерировать все. А способность провести читателя от утверждения к датированному документу, показать цепочку происхождения и честно признать, где доказательств нет, останется дефицитом. Хороший ИИ-поиск будущего — не тот, который отвечает увереннее всех, а тот, который быстрее доводит до оригинала и не стесняется сказать «данных недостаточно». Всё остальное — оформление.
