Яндекс и Co, robots.txt, и вложенные ссылки

12
nitroboss
На сайте с 19.06.2003
Offline
129
1354

Вот недавно решил помочь поисковикам проиндексировать сайт избавив от индексирования сайта с ненужным текстом.

Суть вопроса такова:

есть три файла index.php

show.php

info.php

Причем структура такова

index.php

|

show.php

/ | \

info?1 info?2 info.php?3

Вопрос, если я сделаю disallow: /show.php

будет ли индексировать Яндекс и ко, важные информационные страницы info.php?xxx

P.S. И какова максимальная возможность индексирования этих динамических страниц info.php?xxx. Их больше 12 тысяч а индексируются дай бог только 3000?

С чего бы это вдруг.

C
На сайте с 19.09.2001
Offline
120
#1
Вопрос, если я сделаю disallow: /show.php
будет ли индексировать Яндекс и ко, важные информационные страницы info.php?xxx

А как робот найдет ссылки на ваши info.php?xxx?

Если найдет ссылки на страницах, отличных от show.php, то будет индексировать.

И какова максимальная возможность индексирования этих динамических страниц info.php?xxx. Их больше 12 тысяч а индексируются дай бог только 3000?

Ограничено кол-во страниц, которое робот берет за один заход.

С уважением, Владимир Чернышов. (не)?путевые заметки (http://chernyshov.kiev.ua/)
S
На сайте с 03.06.2003
Offline
74
#2

😎

А как робот найдет ссылки на ваши info.php?xxx?
Если найдет ссылки на страницах, отличных от show.php, то будет индексировать.

Не все роботы принимают файл robots, как руководство к действию. Вполне реальна ситуация, что ссылки каким-либо образом всплывают ниоткуда (объяснение конечно находятся, но от этого не легче). Я же предпочитаю подменять скрипты на то время, которое мне необходимо и не париться :)

Ограничено кол-во страниц, которое робот берет за один заход.

Ограничение по количеству само собой есть, но и не всю динамику индексирует rambler, даже за несколько проходов. Кстати есть ограничения и у Яндекса.

[Удален]
#3
Как писал Sancho
Кстати есть ограничения и у Яндекса.

Об этом подробнее можно? Какие ограничения?

S
На сайте с 03.06.2003
Offline
74
#4
Об этом подробнее можно? Какие ограничения?

Если честно, то я затрудняюсь ответить на этот вопрос :) Есть предположения и постоянные испытания :)

Точно могу сказать, что:

1. Чем больше документов, тем дольше будет проходить индексация

2. В любом случае нужно стремиться к избавлению от ? и & (mod_rewrite например)

3. И насколько я понимаю, у всех SE есть ограничени на очень большое количество страниц

Но о последнем хотелось бы спросить у более опытных людей :)

wolf
На сайте с 13.03.2001
Offline
1183
#5
Если честно, то я затрудняюсь ответить на этот вопрос

Тогда так и говорите, что Вам кажется, что есть ограничения и у Яндекса

Сергей Людкевич, независимый консультант, SEO-аудиты и консультации - повышаю экспертность SEO-команд и специалистов ( http://www.ludkiewicz.ru/p/blog-page_2.html ) SEO-блог - делюсь пониманием некоторых моментов поискового продвижения ( http://www.ludkiewicz.ru/ )
[Удален]
#6
Как писал Sancho
Если честно, то я затрудняюсь ответить на этот вопрос :) Есть предположения и постоянные испытания :)

У Яндекса только ограничения на количество страниц, которые робот забирает при очередном обходе. Во всяком случае у меня обычно это количество не превышает 400-450 страниц.

На общее количество страниц ресурса в индексе вроде ограничений нет.

(всё ИМХО)

S
На сайте с 14.05.2003
Offline
165
Sla
#7
На общее количество страниц ресурса в индексе вроде ограничений нет

да, но при слишком большом количестве обязательно прийдут, глазами посмотрят и ручками ограничат если надо

но если страниц не более 50к то наверное не станут ничего ограничивать

Avatar
На сайте с 18.05.2003
Offline
168
#8

Вот вы говорите 20к, 50к.

Пожалуйста, приведите примеры ресурсов, на которых реально может быть такое количество страниц. Я ЧЕСТНО не знаю таких и не понимаю, кто и что там может размещать.

F
На сайте с 15.11.2000
Offline
116
#9
Как писал Avatar
Пожалуйста, приведите примеры ресурсов, на которых реально может быть такое количество страниц.

N.B. Я знаю сайт, на котором в открытом доступе есть больше миллиона документов, хотя проиндексирована из них крохотная часть.

С уважением,

Александр Садовский.

Avatar
На сайте с 18.05.2003
Offline
168
#10

Спасибо за ответ. Новостные ленты я предполагал. Но магазины.... это же фикция - не бывет столько товаров в наличии...

12

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий