Предупреждение в Sitemap

R
На сайте с 20.10.2017
Offline
9
835

Доброго времени суток форумчани.

Появилась такая проблема, в Sitemap(скриншот внизу), пишет что есть предупреждение, мол страница заблокирована в robots.txt.

Сам robots.txt:

User-agent: *
Disallow:

Disallow: /hunting/*
Disallow: /ua/hunting/*
Disallow: /en/hunting/*

Allow: /trophies/fishing/dorado-zolotoy/
Allow: /ua/trophies/fishing/dorado-zolotoy/
Allow: /en/trophies/fishing/dorado-zolotoy/

Allow: /trophies/fishing/paku/
Allow: /ua/trophies/fishing/paku/
Allow: /en/trophies/fishing/paku/

Allow: /trophies/fishing/arapayma/
Allow: /ua/trophies/fishing/arapayma/
Allow: /en/trophies/fishing/arapayma/

Disallow: /trophies/*
Disallow: /ua/trophies/*
Disallow: /en/trophies/*

Ругается на страницы которые в роботсе "Allow", но выше весь раздел "Disallow", просто мне нужно открыть из раздела всего 9 страниц.

Правильно ли я поступил? И если нет, как решить данную проблему или это пройдет само?

Спасибо всем откликнувшимся.

ИТ аутсорсинг (http://iadmin.com.ua) для Вашего бизнеса
Станислав Романенко
На сайте с 05.09.2007
Offline
325
#1

Вот тут https://www.google.com/webmasters/tools/robots-testing-tool при проверке что пишет?

Сайт не лезет в топ? Сделаю аудит без воды всего за 8000 рублей! Отзывы клиентов тут (https://searchengines.guru/ru/forum/939454), почта для связи: ingref@ya.ru Посмотрю, в чём проблема с вашим сайтом, за 100 рублей (https://searchengines.guru/ru/forum/comment/15662080).
R
На сайте с 20.10.2017
Offline
9
#2

Ошибок: 0 Предупреждений: 0

D.iK.iJ
На сайте с 26.05.2013
Offline
225
#3

Так последним и идет

Disallow: /en/trophies/*

Allow, по идее, должен идти ниже.

Адаптивный дизайн в 2 строчки ( https://dikij.com/wm/adaptaciya-saytov.php ). + Принимаю заказы любой сложности ( https://searchengines.guru/ru/forum/926323 ). 💎 Еще я делаю классные кулоны с опалами ( https://mosaicopal.ru/ ).
R
На сайте с 20.10.2017
Offline
9
#4
DiKiJ:
Так последним и идет
Disallow: /en/trophies/*
Allow, по идее, должен идти ниже.

Это точно?

Разве разницы нету?

D.iK.iJ
На сайте с 26.05.2013
Offline
225
#5
Resize:
Это точно?
Разве разницы нету?

Не должнобыть, если классический роботс.

https://developers.google.com/search/reference/robots_txt?hl=ru

А про Allow Яндекс пишет так вот: https://webmaster.yandex.ru/blog/11833

Сейчас для корректной обработки этой директивы ее необходимо использовать с учетом порядка: если для данной страницы сайта подходит несколько директив, то выбирается первая в порядке появления в выбранном User-agent блоке

Кстати, у Яндекса раньше вон вообще пустая деректива могла весь сайт заблокировать

https://webmaster.yandex.ru/blog/izmeneniya-v-obrabotke-robots-txt

---------- Добавлено 23.07.2018 в 18:18 ----------

В общем, все должно работать как есть. Может, на перепроверку послать?

R
На сайте с 20.10.2017
Offline
9
#6
DiKiJ:
Не должнобыть, если классический роботс.
https://developers.google.com/search/reference/robots_txt?hl=ru

А про Allow Яндекс пишет так вот: https://webmaster.yandex.ru/blog/11833


Кстати, у Яндекса раньше вон вообще пустая деректива могла весь сайт заблокировать
https://webmaster.yandex.ru/blog/izmeneniya-v-obrabotke-robots-txt

---------- Добавлено 23.07.2018 в 18:18 ----------

В общем, все должно работать как есть. Может, на перепроверку послать?

Мне чисто под гугл, так как сайт таргет Украина(с Яндекса трафик вообщем то и не нужен), подожду 2 дня так, потом поменяю местами. И отпишу если прошло.

П.С. Перезалив не помог.

D.iK.iJ
На сайте с 26.05.2013
Offline
225
#7

В Вебмастере Яндекса и Гугла есть инструменты проверки роботс:

https://www.google.com/webmasters/tools/robots-testing-tool

https://webmaster.yandex.ru/tools/robotstxt/

Там можно ввести URL и перепроверить. У меня в Яндексе показало, что вроде как доступен.

R
На сайте с 20.10.2017
Offline
9
#8

И так сообщаю о решении проблемы.

Роботс не трогал. Но каждый день перезаливал сайтмап, проблема не исчезала до сегодняшнего дня.

Сегодня(точнее 10 минут назад) перезалил карту и предупреждение пропало.

Возможно кому-то поможет.

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий