Мы используем cookie-файлы
Для оптимизации работы нашего сайта мы используем cookie-файлы. Продолжая использовать сайт, Вы соглашаетесь с использованием cookie-файлов.
Новый дизайн
Панель управления
  • Русский
  • Українська
  • English
  • UAH
  • USD
  • RUB
  • EUR
  • 0-800-307-307  Горячая линия
  • +38(044) 392-74-33  Киев
  • +38(057) 728-39-00  Харьков
  • +38(056) 794-38-31  Днепр
  • +38(032) 229-58-93  Львов
  • +38(048) 738-57-70  Одесса
  • +38(093) 170-15-42  Life
  • +38(067) 400-88-44  Киевстар
  • +1(888)393-24-51  USA, Toll free
  • +44(131)507-01-14  Great Britain
  • +7(499) 348-28-61  Москва

2.39. Ограничение частоты индексации

Индексирующие боты выполняют частые запросы к страницам сайта для актуализации информации и сохранения её в своих базах для последующей выдачи в поисковых системах. Работа этих ботов полезна, но слишком высокая частота сканирования может вызывать появление лишней бесполезной нагрузки.

Для некоторых индексирующих ботов можно настроить ограничения:

Для настройки интервала сканирования страниц выполните следующее:
  1. Авторизуйтесь или зарегистрируйтесь, если у вас ещё нет аккаунта, в Google Search Console.
  2. Добавьте и подтвердите домен в этой системе, если он не был подтверждён.
  3. Перейдите на страницу управления настройками частоты сканирования и выберите нужный ресурс:
  4. Установите переключатель напротив «Ограничить максимальную скорость сканирования Google», задайте нужное значение и нажмите «Сохранить»:
Для настройки интервала сканирования страниц выполните следующее: - Авторизуйтесь или зарегистрируйтесь, если у вас ещё нет аккаунта, в Яндекс.Вебмастер.
  1. Добавьте и подтвердите домен в этой системе, если он не был подтверждён.
  2. Выберите нужный сайт и перейдите в раздел «Индексирование → Скорость обхода»:
  3. Установите переключатель напротив «Задать вручную», задайте нужное значение и нажмите «Сохранить»:
Для настройки интервала сканирования страниц выполните следующее:
  1. Авторизуйтесь или зарегистрируйтесь, используя социальные сети, в Bing Webmaster.
  2. Добавьте и подтвердите домен в этой системе, если он не был подтверждён.
  3. Выберите нужный сайт, перейдите в раздел «Конфигурация → Управление обходом», выберите необходимый шаблон частоты посещений сайта, либо выберите «Настраиваемый» и укажите частоту индексации по часам самостоятельно, после чего нажмите на кнопку «Сохранить изменения»:

Внимание!

Некоторые боты могут полностью игнорировать директиву Crawl-delay.

Как правило, индексирующие боты придерживаются директив, указанных в robots.txt, где можно задавать интервал индексации. Для этого выполните следующее:

  1. Создайте или отредактируйте файл, если он уже существует, robots.txt в корневом каталоге сайта.
  2. В файле robots.txt укажите директиву crawl-delay:
    User-Agent: *
    Disallow:
    Crawl-delay: 3

    Вместо * можно указать определённый User-Agent, для которого должна ограничиваться частота индексации. Параметр Crawl-delay задаёт интервал в секундах между запросами от бота.