Новый дизайн

Русский
Українська
English

Чат техподдержки

Выберите тип обращения:

0-800-307-307 Горячая линия
+38(044) 392-74-33 Киев
+38(057) 728-39-00 Харьков
+38(056) 794-38-31 Днепр
+38(032) 229-58-93 Львов
+38(048) 738-57-70 Одесса
+38(093) 170-15-42 Life
+38(067) 400-88-44 Киевстар
+1(888)393-24-51 USA, Toll free
+44(131)507-01-14 Great Britain
+7(499) 348-28-61 Москва

2.39. Ограничение частоты индексации

Индексирующие боты выполняют частые запросы к страницам сайта для актуализации информации и сохранения её в своих базах для последующей выдачи в поисковых системах. Работа этих ботов полезна, но слишком высокая частота сканирования может вызывать появление лишней бесполезной нагрузки.

Для некоторых индексирующих ботов можно настроить ограничения:

Google
Яндекс
Bing
Crawl-delay

Для настройки интервала сканирования страниц выполните следующее:

Авторизуйтесь или зарегистрируйтесь, если у вас ещё нет аккаунта, в Google Search Console.
Добавьте и подтвердите домен в этой системе, если он не был подтверждён.
Перейдите на страницу управления настройками частоты сканирования и выберите нужный ресурс:
Установите переключатель напротив «Ограничить максимальную скорость сканирования Google», задайте нужное значение и нажмите «Сохранить»:

Для настройки интервала сканирования страниц выполните следующее: - Авторизуйтесь или зарегистрируйтесь, если у вас ещё нет аккаунта, в Яндекс.Вебмастер.

Добавьте и подтвердите домен в этой системе, если он не был подтверждён.
Выберите нужный сайт и перейдите в раздел «Индексирование → Скорость обхода»:
Установите переключатель напротив «Задать вручную», задайте нужное значение и нажмите «Сохранить»:

Для настройки интервала сканирования страниц выполните следующее:

Авторизуйтесь или зарегистрируйтесь, используя социальные сети, в Bing Webmaster.
Добавьте и подтвердите домен в этой системе, если он не был подтверждён.
Выберите нужный сайт, перейдите в раздел «Конфигурация → Управление обходом», выберите необходимый шаблон частоты посещений сайта, либо выберите «Настраиваемый» и укажите частоту индексации по часам самостоятельно, после чего нажмите на кнопку «Сохранить изменения»:

Внимание!

Некоторые боты могут полностью игнорировать директиву Crawl-delay.

Как правило, индексирующие боты придерживаются директив, указанных в robots.txt, где можно задавать интервал индексации. Для этого выполните следующее:

Создайте или отредактируйте файл, если он уже существует, robots.txt в корневом каталоге сайта.
В файле robots.txt укажите директиву crawl-delay:
```
User-Agent: *
Disallow:
Crawl-delay: 3
```
Вместо * можно указать определённый User-Agent, для которого должна ограничиваться частота индексации. Параметр Crawl-delay задаёт интервал в секундах между запросами от бота.