Вопрос про индексации от Гугла

R
На сайте с 11.02.2009
Offline
144
338

Привет,

подскажите пожалуйста, если страница запрещена к индексации, робот гугла полностью игнорирует ее или может переходить по ссылкам на данной странице и индексировать страницы по этим ссылкам, которые не запрещены?


Если кратко:

Есть интернет-магазин. В нем каталог. Запретил к индексации страницы вида: Каталог (страница 2),  Каталог (страница 3) итд. Но хотелось бы, что по страницам товаров робот гугла прыгал

Vladimir
На сайте с 07.06.2004
Offline
530
#1
refroz :

Привет,

подскажите пожалуйста, если страница запрещена к индексации, робот гугла полностью игнорирует ее или может переходить по ссылкам на данной странице и индексировать страницы по этим ссылкам, которые не запрещены?


Если кратко:

Есть интернет-магазин. В нем каталог. Запретил к индексации страницы вида: Каталог (страница 2),  Каталог (страница 3) итд. Но хотелось бы, что по страницам товаров робот гугла прыгал

Если кратко существует обход сайта ботом и индексация.
Вы запретили индексацию
Аэройога ( https://vk.com/aeroyogadom ) Йога в гамаках ( https://vk.com/aero_yoga ) Аэройога обучение ( https://aeroyoga.ru ) и просто фото ( https://weandworld.com )
Антоний Казанский
На сайте с 12.04.2007
Offline
615
#2
refroz :
подскажите пожалуйста, если страница запрещена к индексации, робот гугла полностью игнорирует

Нет, ваш запрет индексации - это лишь рекомендация.

По своему усмотрению Гугл может и обходить страницу, и в особых случаях даже индексировать. А потом в Консоли вывести уведомление, что проиндексировано несмотря на запрет индексации.


refroz :
Запретил к индексации страницы вида: Каталог (страница 2),  Каталог (страница 3) итд. Но хотелось бы, что по страницам товаров робот гугла прыгал

Запрещайте индексацию и на уровне robots.txt, и на уровне документа (в мета) (если страница попадает в поиск несмотря на запрет в robots.txt).

Также есть вариант запрета через http заголовок, инструкция X-Robots-Tag.

Блокировка индексирования при помощи директивы noindex | Центр Google Поиска  |  Документация  |  Google Developers
Блокировка индексирования при помощи директивы noindex | Центр Google Поиска  |  Документация  |  Google Developers
  • developers.google.com
– это правило, которое задается с помощью тега или заголовка HTTP-ответа и запрещает индексирование контента поисковыми системами, поддерживающими , например Google. Обнаружив такой тег или заголовок во время сканирования страницы, робот Googlebot проигнорирует ее, даже если на нее ссылаются другие сайты. Директива позволяет управлять доступом...
√ SEO продвижение https://akazansky.ru - экспертный аудит сайтов ( https://akazansky.ru/audit-sajtov ), внедрение эффективных решений цифрового маркетинга. Обучение автоматизации с помощью Zennoposter https://goo-gl.me/6Zypu
A6
На сайте с 02.09.2019
Offline
68
#3
Антоний Казанский #:

Запрещайте индексацию и на уровне robots.txt, и на уровне документа (в мета) (если страница попадает в поиск несмотря на запрет в robots.txt).

Так ведь не работает. Он может проиндексировать ту что закрыта в роботс. Если на ней еще и ноуиндекс, то он его просто не увидит.

L
На сайте с 10.02.2015
Offline
221
#4
<meta name="robots" content="noindex,nofollow" />

Ну и в robots.txt закрываем

[Удален]
#5
refroz :
подскажите пожалуйста, если страница запрещена к индексации, робот гугла полностью игнорирует ее или может переходить по ссылкам на данной странице и индексировать страницы по этим ссылкам, которые не запрещены?

Бот Гугла ходит по страницам, которые запрещены к индексации (это в логах видно). Бот Гугла может даже проиндексировать страницы, которые вы в роботс.тхт закрыли от индексации. Бот Гугла вообще себя на разных сайтах по-разному может вести в силу разных причин. Вы просто выгрузите логи вашего сайта и посмотрите, бегает ли бот на страницы раздела, который вы закрыли от индексации. Скорее всего бегает, но гораздо реже, чем на те страницы, на которые прёт трафик из поиска.

livetv #:
<meta name="robots" content="noindex,nofollow" />

Тогда уж noindex,follow, ТС ведь хочет, чтобы бот продолжал бегать.

L
На сайте с 10.02.2015
Offline
221
#6
Диванный аналитик #:

Тогда уж noindex,follow, ТС ведь хочет, чтобы бот продолжал бегать.

Сорян, не дочитал.

Тогда в robots запрещать не стоит.

Но если стоит  noindex, то робот редко такие страницы обходит.

R
На сайте с 11.02.2009
Offline
144
#7

Уважаемые доны, подскажите пожалуйста еще вот по такому вопросу: страницы успешно заблочились для индексации, а нужно ли теперь что-то делать с вот такими оповещениями в консоли вебмастера?

Vladimir SEO
На сайте с 19.10.2011
Offline
1707
#8
refroz :

если страница запрещена к индексации, робот гугла полностью игнорирует ее или может переходить по ссылкам на данной странице и индексировать страницы по этим ссылкам, которые не запрещены?

если запрет к индексу мета ноиндекс - то индекса не будет, если ноиндекс фоллоу будет дальше ходить, но со временем частота захода упадет.

не путаем с роботс тхт - это вообще рекоменда к саникрованию, а не индексации. И там если есть трафик то гугл нынче может спокойно лазить и индексить

Эксперт по продуктам Google https://support.google.com/profile/58734375 ᐈ Продвижение коммерческих сайтов https://kulinenko.com/
R
На сайте с 11.02.2009
Offline
144
#9
Vladimir SEO #:

если запрет к индексу мета ноиндекс - то индекса не будет, если ноиндекс фоллоу будет дальше ходить, но со временем частота захода упадет.

не путаем с роботс тхт - это вообще рекоменда к саникрованию, а не индексации. И там если есть трафик то гугл нынче может спокойно лазить и индексить

Благодарю, а по комменту выше с панелью вебмастера подскажете пожалуйста? Также интересует, что делать с Validate fix например на страницах 404 (если страницы удалили и восстанавливать не планируется - нажимать ли validate fix)


Vladimir SEO
На сайте с 19.10.2011
Offline
1707
#10
refroz #:
нажимать ли validate fix)
нет

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий