Жалуется на сайтмап

productorg
На сайте с 08.07.2009
Offline
101
650

Вот что говорит гугл

http://prntscr.com/aa17c5

Как решить? Перекраивать формирование файла sitemap с учетом того, что заблокировано в роботсе? Потому как сайтмап формируется скриптом ежедневно.

E
На сайте с 21.09.2009
Offline
283
#1

productorg, какой смысл, отдавать страницу боту, закрытую в роботс?

danforth
На сайте с 18.12.2015
Offline
153
#2

Настраивайте генерацию карты сайта. У меня регулярно тоже проскакивает, но не 350 тысяч ошибок.

Junior Web Developer
productorg
На сайте с 08.07.2009
Offline
101
#3

Правильно ли я понимаю, что гугл в виду такого количества ошибок может пессимизировать сайт в выдаче?

И сайтмап для гугла весьма важная вещь?

anebilitsa
На сайте с 07.02.2012
Offline
167
#4

Нет, не пессимизирует. Сайтмап вам нужнее просто потому, что дает еще один источник данных о существующих страницах на сайте, которые нужно добавить в индекс или обновить информацию о них.

Отличный облачный майнинг (https://hashflare.io/r/D9BC3BC7) Аудит и продвижение сайтов (/ru/forum/935103) | Сервис для снятия позиций сайта (http://allpositions.ru/redirect/28240)
productorg
На сайте с 08.07.2009
Offline
101
#5
anebilitsa:
Нет, не пессимизирует. Сайтмап вам нужнее просто потому, что дает еще один источник данных о существующих страницах на сайте, которые нужно добавить в индекс или обновить информацию о них.

Гм, тогда что пофиг получается что гуглу кормить через сайтмап? Новые страницы там появятся, а по-вашему получается что блокированные в роботсе ничему не мешают

E
На сайте с 21.09.2009
Offline
283
#6

productorg, если сайт большой, то сайтмап просто необходим как воздух.

productorg
На сайте с 08.07.2009
Offline
101
#7
easywind:
productorg, если сайт большой, то сайтмап просто необходим как воздух.

В том плане, чтобы гуглу было проще тыкать по открытым страницам, а не упираться в закрытые роботсом? Даст ли это ускорение индексации либо еще какие-то положительные моменты?

anebilitsa
На сайте с 07.02.2012
Offline
167
#8
productorg:
В том плане, чтобы гуглу было проще тыкать по открытым страницам, а не упираться в закрытые роботсом? Даст ли это ускорение индексации либо еще какие-то положительные моменты?

Поисковый робот не будет ходить по всем страницам вашего сайта за один раз. На каждый заход выделяется определенное количество страниц, которые он посещает. Если из 10 страниц 9 будут закрыты от индекса, тогда вы не скормите ему открытые страницы, на которых уже что-то обновилось.

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий