top/geo

Знания модели и поиск в реальном времени: в чём разница

У нейросети два источника сведений. Первый — знания, которые она усвоила при обучении: они зафиксированы на дату, когда закончился сбор данных, и больше не обновляются. Второй — поиск в момент вопроса: ассистент находит свежие страницы, читает их и пересказывает. Первый путь похож на ответ по памяти, второй — на ответ с открытой книгой. Для сайта это два разных способа попасть в ответ, и работают они на разных сроках.

Аналогия: экзамен по памяти и с открытой книгой

Представьте двух студентов. Первый прочитал всю библиотеку год назад и отвечает по памяти: быстро, уверенно, но без ссылок и с риском перепутать детали. Второй читал меньше, зато ему разрешили открыть учебник на экзамене: он отвечает медленнее, но может показать страницу, откуда взял ответ.

Современный ассистент — это оба студента сразу. На вопрос «что такое фотосинтез» ему хватает памяти. На вопрос «какие компании в моём городе ставят пластиковые окна» память даст в лучшем случае устаревший и неполный список, поэтому он полезет в поиск.

Знания из обучения

При обучении модель прочитала огромный массив текстов, собранный до определённой даты. Эту дату называют отсечкой знаний. Всё, что случилось позже, модель не знает, если ей не подсказать.

Особенности таких знаний:

  • Обобщённость. Модель помнит не страницы, а закономерности: как обычно описывают тему, что с чем связано. Указать конкретный источник она не может.
  • Неравномерность. О том, что много раз обсуждалось в интернете, модель знает хорошо. О небольшой компании, упомянутой на двух сайтах, — почти ничего, и эти крохи легко смешиваются с похожими.
  • Неизменность. Сменили адрес или цены — модель продолжит повторять старое, пока не выйдет новая версия, обученная на свежих данных.
  • Отсутствие сомнений. Модель не отличает свои твёрдые знания от смутных и в обоих случаях говорит одинаково уверенно. Подробнее — в статье о галлюцинациях.

Поиск в момент вопроса

Если у ассистента есть доступ к поиску, он может сам решить, что вопрос требует свежих данных, сформулировать запросы, получить страницы и опереться на них. Иногда поиск включается явно — кнопкой или режимом в интерфейсе. Механика подробно описана в статье про RAG.

Особенности такого ответа:

  • Свежесть. Ответ может опираться на страницу, опубликованную недавно, если поиск её уже нашёл.
  • Ссылки. Обычно ассистент показывает источники, и по ним можно проверить сказанное.
  • Зависимость от поиска. Что не нашёл поисковый индекс, к которому подключён ассистент, того нет и в ответе.
  • Ограниченная глубина. Модель читает несколько фрагментов с нескольких страниц, а не весь интернет по теме.

Как понять, откуда взят ответ

ПризнакСкорее памятьСкорее поиск
Ссылки на источникинетесть, рядом с ответом или внутри
Свежие событияне упоминаются или устарелиупоминаются
Конкретика о небольших компанияхобщие слова, возможна путаницаадреса, цены, названия со ссылками
Интерфейсответ появляется сразувидно, что идёт поиск, или включён режим поиска

Признаки не железные: модель может смешать оба источника в одном ответе. Но если ссылок нет, разумно считать, что вы читаете пересказ по памяти.

Пример: один вопрос в двух режимах

Допустим, пекарня в Твери полгода назад переехала на другую улицу и стала открываться на час раньше. Человек спрашивает ассистента: «Где в Твери пекарня с круассанами, которая открывается рано?»

Без поиска модель может вообще не знать эту пекарню. Если знает, назовёт старый адрес — тот, что встречался в текстах на момент обучения. Ссылки не будет, проверить нечем.

С поиском ассистент найдёт страницы по запросу: карточку в картах, сайт пекарни, обзоры. Если везде новый адрес и новые часы, ответ будет верным и со ссылками. Если на сайте обновили, а в справочнике нет, модель получит два противоречивых источника и выберет один — не обязательно правильный.

Получается, что для свежих фактов решает не память модели, а порядок в источниках.

Два пути в ответ для сайта

Отсюда главный практический вывод. Компания может попасть в ответ нейросети двумя путями, и у каждого свои правила.

Путь через поиск — быстрый. Чтобы ассистент нашёл и процитировал вашу страницу сегодня, нужно:

  1. Быть в индексе поисковой системы, к которой подключён ассистент.
  2. Не закрывать сайт от поисковых ботов ИИ-сервисов. Как такие боты читают страницы, разобрано в статье как нейросети читают сайты.
  3. Дать на странице короткий самодостаточный ответ на вопрос, который задают люди.

Результат можно увидеть за недели — столько, сколько нужно поиску, чтобы найти и проиндексировать страницу.

Путь через обучение — медленный. Чтобы модель «знала» о вас без поиска, сведения о компании должны встречаться в открытом интернете много раз и одинаково: на сайте, в справочниках, в отраслевых статьях, обзорах, отзывах. Тогда при следующем обучении модель с большей вероятностью усвоит их правильно.

Этот путь занимает месяцы и годы, и прямого рычага у владельца сайта нет. Но работа на него — те же упоминания и согласованные факты — помогает и первому пути: ассистент с поиском тоже доверяет сведениям, которые подтверждаются в нескольких местах.

Что делать на практике

  • Проверьте, что пишут о вашей компании ассистенты с выключенным и включённым поиском. Разница покажет, где пробел: в памяти или в индексе.
  • Держите ключевые факты — название, адрес, телефон, цены, условия — одинаковыми везде, где о вас пишут.
  • Уберите или исправьте устаревшие сведения на своих площадках: со временем они могут попасть в обучение.
  • Не ждите, что модель сама узнает о новой услуге. Пока не выйдет новая версия, её найдут только через поиск.

Как устроены сами модели, рассказано в статье что такое большая языковая модель. Обзор агентств, которые занимаются присутствием компаний в ответах ИИ, — в подборке на главной.

Частые вопросы

Как узнать дату отсечки знаний у модели?

Её обычно указывают в описании модели или сервиса. Можно спросить и саму модель, но её ответ о себе не всегда точен — надёжнее документация.

Если ассистент нашёл мой сайт, модель запомнит его навсегда?

Нет. Найденная страница используется только для текущего ответа. В знания модели она может попасть лишь при обучении следующей версии, и то не гарантированно.

Почему ассистент с поиском всё равно ошибается о моей компании?

Причин несколько: в индексе нашлась устаревшая страница, модель смешала вас с похожей компанией, или фрагмент с фактом не попал в отбор. Исправлять стоит источник: согласовать сведения на сайте и внешних площадках.

Можно ли попросить нейросеть не пользоваться памятью, а только искать?

Можно попросить в запросе опираться только на найденные источники и давать ссылки. Полностью «отключить память» нельзя: модель всё равно пишет ответ своими словами на основе обучения.