Останутся ли страницы в индексе если их закрыть в robots.txt?

12
ElectroD
На сайте с 25.03.2008
Offline
89
931

Есть сайт на движке DLE. Кол-во новостей ~7000. Каждый раз, робот заходит на сайт и начинает перелопачивать все подряд страницы. Пока дойдёт дело до новых страниц, пройдёт неделя, две. Возник вопрос. Если я закрою страницы от робота, которые уже есть в индексе, они пропадут из поиска? Например, есть страницы:

http://сайт.ру/page/1/

http://сайт.ру/page/2/

http://сайт.ру/page/3/

и т.д.

Я закрою http://сайт.ру/page/20/. Страницы, которые будут на странице 21, 22, 23 и т.д. не будут индексироваться роботом?! А останутся ли они в индексе, будут выводиться в поиске?

S2
На сайте с 07.01.2008
Offline
611
#1

Ну так проверьте тут: http://webmaster.yandex.ru/wmconsole/public_robots_txt.xml

Ясное дело выпадут, только может не слишком быстро.

У вас наверно последняя дата изменений выдаётся текущим числом - вы отдавайте, по дате новости - тогда он в старьё лезть не должен. Либо карту сайта составьте новую с большим приоритетом у новых новостей.

Не надо приписывать мне свои выводы, я имею ввиду только то, что написал. Лучшая партнёрка по футболкам/толстовкам (http://partnerka.kolorado.ru/?ref=1921540) Опрос: Проверить текст на уник - как? (/ru/forum/495885)
ElectroD
На сайте с 25.03.2008
Offline
89
#2
Str256:
У вас наверно последняя дата изменений выдаётся текущим числом - вы отдавайте, по дате новости

А это как? Можно поподробнее, пожалуйста?

Б
На сайте с 30.06.2008
Offline
200
#3

ElectroD, из нетехнических приёмов - сделайте страницы новых новостей 2УВ (по прямой ссылке с морды), а остальные - только из соответствующего раздела (3 УВ). Второй способ - живой блог со ссылками только на свежие новости.

Будь мудрее. Выгляди глупее.
L8
На сайте с 07.12.2008
Offline
59
#4

Если страницу закрыть в роботс, то она рано или поздно вылетит из индекса (скорее рано...). Но зачем такие заморочки? Сделайте чтобы на все новые страницы были ссылки с главной и они проиндексируются очень быстро.

S2
На сайте с 07.01.2008
Offline
611
#5

Почитайте насчёт Last-Modified

ElectroD
На сайте с 25.03.2008
Offline
89
#6

Поставил модуль "последние новости", посмотрим, что из этого выйдет.

Спасибо за советы.

Цахес
На сайте с 15.03.2007
Offline
205
#7
ElectroD:
Я закрою http://сайт.ру/page/20/. Страницы, которые будут на странице 21, 22, 23 и т.д. не будут индексироваться роботом?!

Будут.

Не будет индексироваться дирректория /page/20/.

- Хорошие и плохие тексты для ваших сайтов (http://www.textsale.ru/team57397.html). - Удаленная работа. Вакансия копирайтера/рерайтера. (http://advego.ru/6myq8sgvKk) - Быстрое составление семантического ядра (https://topvisor.ru/?inv=39380).
IRREWERSIBLE
На сайте с 16.03.2006
Offline
163
#8
ElectroD:
Есть сайт на движке DLE. Кол-во новостей ~7000. Каждый раз, робот заходит на сайт и начинает перелопачивать все подряд страницы. Пока дойдёт дело до новых страниц, пройдёт неделя, две. Возник вопрос. Если я закрою страницы от робота, которые уже есть в индексе, они пропадут из поиска? Например, есть страницы:
http://сайт.ру/page/1/
http://сайт.ру/page/2/
http://сайт.ру/page/3/
и т.д.
Я закрою http://сайт.ру/page/20/. Страницы, которые будут на странице 21, 22, 23 и т.д. не будут индексироваться роботом?! А останутся ли они в индексе, будут выводиться в поиске?

Выпадут из индекса. Для ваших целей, воспользуйтесь сайтмэпом. В нем можете устанавливать какие страницы нужно индексировать часто а какие нет.

skype andreylaki1984
ElectroD
На сайте с 25.03.2008
Offline
89
#9
IRREWERSIBLE:
Выпадут из индекса. Для ваших целей, воспользуйтесь сайтмэпом. В нем можете устанавливать какие страницы нужно индексировать часто а какие нет.

А где можно почитать на эту тему более подробно?

Цахес:
Будут.
Не будет индексироваться дирректория /page/20/.

Да, я после создания темы это понял. Тупанул слегка :)

S2
На сайте с 07.01.2008
Offline
611
#10
12

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий