Переходит ли робот по ссылкам со страниц запрещенных в robots.txt?

12
K
На сайте с 30.07.2008
Offline
135
#11

Smart Shot, я вас весьма уважаю - вы всегда пишете дельно, по сути. Но в данном случае я поддерживаю утверждение "запрет в robots.txt равнозначен noindex, follow".

Хочу привести пример. Не обобщающий, частный, но просто-таки вопиющий:)

В сентябре прошлого года при переносе новой версии сайта на рабочий хостинг программер перенес также и запрещающий индексацию роботс.

Всё улетело из индекса и, как полагается, вместе со страницами - запросы.

Всё, кроме запросов по главной. Они даже выросли. Запросы [подоконники пвх], [пвх подоконники] встали на первое место (до того плотно держались на 8-12, и вообще не были выше шестого никогда до этого) и держались там... пока главная не вернулась в индекс:)

Я спокойно выкладываю урл, потому что я уже не продвигаю этот сайт:)

Понятно, что скрин - никакое доказательство, типа я должен доказать, что он относится к этому периоду. Но доказывать мне неинтересно - я-то точно знаю, что так было:)

Мне более интересно понять, почему (замечено неоднократно) при полном запрете индексации вылетает все, кроме ссылки на домен. Причем по запросам она вполне так ранжируется при этом.

png lEpZqvu.png
Ideas Garden
На сайте с 25.03.2016
Offline
23
#12
Seo-Seo:
Более скажу, видел страницы в индексе Гугла, по которым шло ранжирование и которые были закрыты в роботсе. на них была крепкая ссылочная масса. Так что роботс не следует воспринимать никак иначе, кроме как "рекомендацию".

Я согласен с Seo-Seo. Robots - это только рекомендации. Поисковый робот Гугла чаще всего правила в роботсе игнорирует. У меня уже через один сайт он игнорирует, индексируя страницы, даже бывают служебные😡.

Ideas Garden (https://ideas-garden.com) - SEO продвижение, раскрутка сайтов, PPC. Наращиваем трафик и создаем поток продаж.
K
На сайте с 30.07.2008
Offline
135
#13

Ну с гуглом-то давно всё ясно.

Smart Shot
На сайте с 03.09.2015
Offline
66
#14

kirf, не буду спорить.

P.S. Главная страница не выходит из индекса, я это уже миллион раз замечал, но Яндекс не отображает инфы с нее. Заголовок скорей всего взялся из текста.

SEO группа в ВК, где ответят на любой ваш вопрос! (https://vk.com/hello_seo_world) Книга по интернет-маркетингу (http://smartshot.ru/seo-dlya-seoshnikov/) Блог по SEO (http://smartshot.ru/blog/)
C
На сайте с 05.12.2014
Offline
27
#15

Уважаемые, так все таки, будет ли работать данное правило:

<meta name="robots" content="noindex, follow" />

Все верно? Оно запрещает роботам добавлять страницу в индекс поисковых систем, но разрешает переходить по ссылкам роботу.

AP
На сайте с 12.06.2015
Offline
74
#16

Кстати, а кто-нибудь знает? Если страница попала в кэш яндекса (http://hghltd.yandex.net) она оттуда удалится когда-нибудь, если этой страницы давно уже нет и на всякий случай запрещена индексация в robots?

12

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий