aksen87
25.06.2020 07:48
0
Добрый день!
Крайне обидная ситуация, купил доступ Ahrefs для сайта https://stil.com.ua , а робот не может получить доступ и просканить его.
Пишет что не может получить доступ к robots.txt
Техподдержка там жесть
Подскажите пжл что это может быть
karlov
25.06.2020 10:03
2
Попробуйте запустить сканирование, после чего проверьте логи доступа к сайту — https://wiki.ukraine.com.ua/hosting:my-sites:logs#access — и посмотрите, для каких юзер-агентов отдаётся ответ 403.

В разделе «Мои сайты — Настройка сайта» внизу страницы есть опция «Не блокировать ботов» со списком ботов. Если в этом списке есть бот, на запросы которого в момент сканирования возвращался ответ 403, можно будет добавить его в список неблокируемых.
Тема закрита.