Как быстро поисковики анализируют robots.txt

Musicathome
На сайте с 20.04.2012
Offline
109
561

Есть сайт, в нем не закрыты страницы, которые нужно закрыть. Я закрыл их в robots, и мне интересно, как быстро они уйдут из индекса. Важен не только Яндекс, но и Google.

webim
На сайте с 24.04.2013
Offline
15
#1

в среднем через 2 недели после захода робота

Musicathome
На сайте с 20.04.2012
Offline
109
#2

То есть после того, как поисковик снова загрузит robots, страницы сразу из индекса выпадут?

webim
На сайте с 24.04.2013
Offline
15
#3
Musicathome:
То есть после того, как поисковик снова загрузит robots, страницы сразу из индекса выпадут?

по логике вещей да. т.к. роботс первая вещь куда они смотрят

cheredov
На сайте с 07.04.2011
Offline
125
#4
Musicathome:
Я закрыл их в robots, и мне интересно, как быстро они уйдут из индекса. Важен не только Яндекс, но и Google.

Через 1-2 апа, а из гугла могут и не выпасть. А будет

Описание веб-страницы недоступно из-за ограничений в файле robots.txt.


webim, Вы выдумали и посоветовали ТС. Страницы из индекса не выпадут сразу как только ПС снова загрузит robots.

Иван Чередов (http://ivan.cheredov.com/about/)
webim
На сайте с 24.04.2013
Offline
15
#5
cheredov:
...

собственно можно было просто сказать, если ошибся. Т.к я написал, что это по логике вещей так должно быть (бот загрузил, посмотрел и выкинул с индекса, т.к. выкидывать они любят).

у вас и статья на этот счет смотрю имеется

cheredov
На сайте с 07.04.2011
Offline
125
#6
webim:
собственно можно было просто сказать, если ошибся. Т.к я написал, что это по логике вещей так должно быть (бот загрузил, посмотрел и выкинул с индекса, т.к. выкидывать они любят).
у вас и статья на этот счет смотрю имеется

У меня другая логика: индексирует бот какие то страницы сайта с учетом роботса, запрещены они там - не станет в индекс добавлять (или удалит потом из индекса). Но если эти страницы он и не собирался индексировать, то и плевать ему на запись в роботсе. Многие страницы вообще висят месяцами.

R
На сайте с 30.08.2009
Offline
33
#7

Есть вебмастер, загляните туда. Там есть сервис при помощи которого можно проанализировать свой роботс. Если сайт живой и страницы быстро добавляются в индекс, то сразу ваши изменения будут отражаться на роботсе

Forza!
На сайте с 22.09.2008
Offline
107
#8
Musicathome:
Я закрыл их в robots, и мне интересно, как быстро они уйдут из индекса.
Musicathome:
но и Google.

В Гугле такие старницы не уйдут из индекса, пока вы не удалите такие страницы через ВМТ, или пока вы не откроете их в роботсе снова, а на самих старницах пропишите <meta name="robots" content="noindex" />.

Роботс.тхт запрещает не индексацию ,а сканирование.

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий