Почему нейросети ссылаются на удалённые статьи и выдумывают ли они ссылки
Ссылка в ответе нейросети может не открываться по разным причинам. Сервер способен блокировать автоматические запросы, сайт может временно не работать, а сама страница — быть удалённой. Поэтому ошибка при переходе по адресу ещё не доказывает, что нейросеть его придумала.
Проверка примерно 600 ссылок из ответов пяти нейросетей, проведённая примерно через месяц после сбора данных, показала, что открывались около 90% адресов. Доля работающих ссылок у разных сервисов была близкой — от 88% до 94%. Среди неоткрывшихся адресов не обнаружилось очевидных галлюцинаций: несколько десятков страниц не отдали содержимое автоматическому проверяющему, а единичные материалы, судя по структуре адресов и площадкам, скорее всего, были удалены.
Как отличить удалённую страницу от блокировки
Для проверки важно смотреть не только на факт ошибки, но и на HTTP-код. Ответы 404 и 410 означают, что по адресу страница недоступна. Код 410 обычно используется, когда содержимое удалили окончательно и не планируют перенаправлять посетителей. При этом ни один из кодов сам по себе не позволяет установить, была ли ссылка когда-то реальной: удалённый материал мог существовать до того, как исчез.
Коды 401 и 403 говорят об ограничении доступа, а не об отсутствии страницы. Ответ 429 появляется, когда с одного адреса поступило слишком много запросов за короткое время. Код 503 обычно означает временную недоступность сервиса. Защита Cloudflare также может вернуть автоматическому клиенту 401 или страницу проверки, хотя обычный посетитель откроет материал в браузере. В проверяемом наборе около трёх десятков адресов попали именно в категорию страниц, закрытых для роботов.
Редиректы 301 и 302 сами по себе не делают ссылку мёртвой. Если после одного или нескольких переходов пользователь попадает на нужную статью и сервер возвращает код 200, адрес можно считать рабочим. Однако перенаправление на главную страницу формально выглядит успешным, хотя читатель может не найти там обещанного в ответе нейросети материала.
Как проверить ссылки самостоятельно
Для автоматической проверки подойдёт небольшой скрипт на Python с библиотекой requests. Он должен отправлять запрос GET, а не HEAD: GET позволяет при необходимости дополнительно проверить содержимое страницы, тогда как HEAD возвращает только заголовки. Запросы следует выполнять с ограниченным тайм-аутом, собственным User-Agent и разрешёнными переходами по редиректам.
Практичная классификация включает четыре основные группы: «жива» для ответов 2xx, «удалена» для 404 и 410, «закрыта для робота» для 401, 403, 429 и 503, а также «разобрать вручную» для остальных случаев. Исключения соединения, тайм-ауты и слишком длинные цепочки перенаправлений лучше выделять отдельно как «нет ответа». В качестве ориентиров можно использовать тайм-аут около пяти секунд на соединение, до 15 секунд на получение ответа и не более десяти редиректов, но эти значения не являются универсальными.
Последний адрес после перенаправлений тоже нужно сохранять. Если он отличается от исходного, страницу могли перенести, заменить её главной или отправить на другой материал. Такие результаты стоит открыть вручную и проверить, соответствует ли содержание тому, на что ссылалась нейросеть. Автоматическая проверка показывает доступность адреса, но не оценивает точность цитаты и надёжность самого источника.
Почему ИИ продолжает ссылаться на удалённые материалы
Наиболее вероятное объяснение — задержка между удалением страницы и обновлением поисковой базы нейросети. Сайты постоянно меняются, а проверить каждый адрес сразу после его исчезновения невозможно. Perplexity указывает, что порядок и частоту обхода страниц определяют автоматические системы. OpenAI также публикует сроки обновления для отдельных механизмов, например изменений в robots.txt, но точного срока удаления страниц из поиска ChatGPT не называет.
Проблема характерна не только для нейросетей. По данным Pew Research Center, около четверти страниц, существовавших в 2013–2023 годах, к октябрю 2023-го стали недоступны. Чаще всего исчезает отдельная публикация, тогда как сам сайт продолжает работать. Обычные поисковики тоже не обновляют индекс мгновенно: Google со временем исключает страницы с ответами 4xx, а Яндекс сообщает об удалении адресов с кодами 404, 403 или 410 после обнаружения ошибки роботом.
Для владельцев сайтов это означает, что удаление статьи не обязательно прекращает её влияние на ответы ИИ. Если материал заменяет актуальная публикация на ту же тему, перед удалением стоит настроить постоянный редирект со старого адреса. Если замены нет, корректнее вернуть 410 — это явный сигнал о безвозвратном удалении. Редирект на релевантную страницу сохранит пользу старой ссылки для читателей, которые найдут её в ответе нейросети.
Что показала проверка и чего она не доказывает
Результат одного замера нельзя распространять на все модели и типы запросов. В исследовании проверялись около 600 адресов из одного набора ответов, причём неизвестно, когда именно исчезли недоступные страницы — до формирования ответа или уже после него. Кроме того, оценивалось только открытие ссылок, а не соответствие текста источника пересказу нейросети.
Другие исследования дают менее благоприятную картину. Tow Center обнаружил у Gemini и Grok 3 выдуманные или битые адреса более чем в половине ответов на запросы о новостях. В отдельном эксперименте с вымышленным понятием оно за неделю появилось в цитатах восьми из десяти ИИ-поисковиков, несмотря на доступность исходных публикаций. Поэтому нельзя утверждать, что сервисы с поиском никогда не галлюцинируют ссылки.
Главный вывод осторожнее: в конкретной проверке большинство проблемных адресов были похожи на удалённые реальные страницы или материалы, закрытые для автоматических запросов. При работе с ответами нейросети нужно проверять не только существование ссылки, но и HTTP-код, конечный адрес, содержание страницы и актуальность приведённых в ней сведений.
