яндекс ходит по ссылкам 404 2018 года

D
На сайте с 28.03.2009
Offline
128
372

перенесли сайт на новый движок на javascript, робот не мог пройти по ссылкам.

это вызвало то, что он стал ходить по базе урлов 2018 (саппорт потвердил несколько раз). там какой-то мусор из склееных урлов.

и более половины таких, по тому где ходит робот.

пока запрещаю их все в роботс

и сделал сайтмеп и каталоги ссылок. сайт на 20тыс страниц.

Партнёрка "Консультант по красоте" - 100 рублей за телефон - косметолог, парикмахер, маникюр (http://acosmetology.ru/wm/partnership/webmasters/signup.php)
MI
На сайте с 18.08.2021
Offline
54
#1
Яндекс вообще чудит последнее время и обновляется медленно
N
На сайте с 28.09.2012
Offline
76
#2
Dorvei : можно посмотреть в вебмастере, возможно страница добавлены в список отслеживаемых. И я бы глянул кеши ещё, особенно если cloudflare используется.
Л1
На сайте с 27.12.2016
Offline
171
#3
Nushaba #:
Dorvei : можно посмотреть в вебмастере, возможно страница добавлены в список отслеживаемых. И я бы глянул кеши ещё, особенно если cloudflare используется.
не в этом дело, у меня все удалено также еще в 2016 и раз в год точно он находит эти урлы откуда то, хотя ссылок на них нигде нет, все корректно удалено
Сергей
На сайте с 10.07.2022
Offline
43
#4
Ну и пусть себе ходит. Проблема в чём? Хотите отдавайте 404, или перебрасывайте на главную.
Открытый проект для юристов в Москве и Московской области https://ask.mosdok.ru сопровождение сделок, регистрация домов, оформление строительства
Vladimir
На сайте с 07.06.2004
Offline
592
#5
Dorvei :

пока запрещаю их все в роботс

Т.е. вы опять их законсервировали? Зачем их запрещать в роботс?
 Пусть он пройдет по всем 404 и выкинет их из своей базы

Аэройога ( https://vk.com/aeroyogadom ) Йога в гамаках ( https://vk.com/aero_yoga ) Аэройога обучение ( https://aeroyoga.ru ) и просто фото ( https://weandworld.com )
Vladimir
На сайте с 07.06.2004
Offline
592
#6
MihailIsmailov2021 #:
Яндекс вообще чудит последнее время и обновляется медленно

Уменьшите бедному яндексу свою базу, и все придет в норм
- Дублей страниц не должно быть на сайте, а не использовать вместо этого каноникал или роботс
- серверная статистика должна быть закрыта, админ файлы также
- Включите Last modified

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий