Вопрос о sitemap

A
На сайте с 24.10.2012
Offline
14
556

Сегодня Гугл выдал ошибку о том, что sitemap заблокирован в robots.txt (раньше таких ошибок не было). При анализе robots.txt в вэбмастере Google напротив строки с sitemap следующее: "Обнаружены данные о действительном файле Sitemap".

С картой сайта действий не проводилось, в роботс периодически добавляю дубли страниц (чтобы удалились через вебмастер).

Кто знает причину такой вот фигни и как её решить? Я так понимаю, что карту сайта Гугл пока индексировать не будет. Какие могут быть последствия?

Roousk
На сайте с 07.10.2012
Offline
58
#1
allenatore:
Сегодня Гугл выдал ошибку о том, что sitemap заблокирован в robots.txt (раньше таких ошибок не было). При анализе robots.txt в вэбмастере Google напротив строки с sitemap следующее: "Обнаружены данные о действительном файле Sitemap".
С картой сайта действий не проводилось, в роботс периодически добавляю дубли страниц (чтобы удалились через вебмастер).
Кто знает причину такой вот фигни и как её решить? Я так понимаю, что карту сайта Гугл пока индексировать не будет. Какие могут быть последствия?

содержимое роботс.тхт в студию!

A
На сайте с 24.10.2012
Offline
14
#2
Roousk:
содержимое роботс.тхт в студию!

http://euroeducation.com.ua/robots.txt

Роботс большой, знаю, но пока не критичный и это временные меры - дубли удалятся из поиска - почищу. Но sitemap почему запрещён?

дани мапов
На сайте с 06.09.2012
Offline
204
#3

Из-за этой строки Disallow: /index.php?* попадает под запрет sitemap.

Написание и доработка скриптов (PHP, MySQL, JavaScript, jQuery) (/ru/forum/811046)
A
На сайте с 24.10.2012
Offline
14
#4
дани мапов:
Из-за этой строки Disallow: /index.php?* попадает под запрет sitemap.

Эта строка закрыла сотни дублей (их действительно раньше были сотни). Как в таком случае решить вопрос? И почему только в Гугле? (Яндекс ошибку не выдаёт). И почему именно вчера появилась ошибка, а строку я прописал пару месяцев назад?

---------- Добавлено 13.05.2013 в 07:05 ----------

Попробовал следующее: убрал в robots строку Disallow: /index.php?*, повторно попробовал скормить карту сайта - выдаёт туже ошибку о запрете в robots.

orka13
На сайте с 28.03.2011
Offline
102
#5

Зачем вы убрали "Disallow: /index.php?*"? Вам подсказали место проблемы, но не говорили что ее надо вырезать под корень. Верните его назад, если помогало для других бед.

Теория: Гугл правила Robots.txt, для проверки работы чужого файла Robots.txt удобно использовать ЯВМ.

Практика:

Вариант 1:

в Robots.txt заменяем

Sitemap: http://euroeducation.com.ua/index.php?option=com_xmap&sitemap=1&view=xml

На

Allow: /index.php?option=com_xmap&sitemap=1&view=xml
Sitemap: http://euroeducation.com.ua/index.php?option=com_xmap&sitemap=1&view=xml

Вариант 2: Пытаемся изменить в движке адрес Sitemap на обычный статический. Может и не выйти.

allenatore:
повторно попробовал скормить карту сайта - выдаёт туже ошибку о запрете в robots.

Скорое всего ваши изменения в Robots.txt еще не скушал Гугл. Проверить в вебмастере что он видит в файле Robots.txt.

Продажи шаблона Google-Translate (Гугл Переводчик), скорость: 20 млн ключей/час, с прокси, без API. (http://zennolab.com/discussion/threads/prodazhi-shablona-google-translate.43684/) Переводит ключи, статьи, HTML+PHP файлы (целые сайты, доры) с сохранением верстки!
дани мапов
На сайте с 06.09.2012
Offline
204
#6

Убирать не надо это правило, а нужно чтобы Xmap выдавал адрес карты в виде http://site.ru/sitemap-xml.html . Давно как-то уже делал, сейчас не помню то ли этот адрес сразу можно получить или в настройках Xmap покопаться.

A
На сайте с 24.10.2012
Offline
14
#7
orka13:
Зачем вы убрали "Disallow: /index.php?*"? Вам подсказали место проблемы, но не говорили что ее надо вырезать под корень. Верните его назад, если помогало для других бед.

Ясное дело, что верну, это я в качестве эксперимента убрал на день-два, пока Гугл карту не схавает (проверю, сколько это действительно времени занимает, а за пару дней новых дублей наплодиться не успеет).

---------- Добавлено 13.05.2013 в 22:27 ----------

дани мапов:
Убирать не надо это правило, а нужно чтобы Xmap выдавал адрес карты в виде http://site.ru/sitemap-xml.html . Давно как-то уже делал, сейчас не помню то ли этот адрес сразу можно получить или в настройках Xmap покопаться.

Читал на других форумах, что на такой url карты сайта какой-то из поисковиков очень ругается, если его в роботсе прописать (вроде Яндекс, но не уверен).

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий