Cherny

Рейтинг
120
Регистрация
19.09.2001
Так что может паук выгребает первый кусок и считает, что все...

Посмотрите, что лежит в кеше Гугла, если действительно только часть страницы, то Вы правы, да и снифер не нужен для этого.

Запрос робота Гугля не содержит заголовка Connection, может быть в этом проблема?

Предположения верные, тем более если в логах нет запросов роботов к искомому перловому скрипту.

301 -- перемещена постоянно;

302 -- перемещена временно.

Я бы выдал код 301, Яндекс при этом удалит страницу с идентификатором сессии из списка страниц для индексации и добавит, если страницу без идентификатора (если ее еще нет в списке).

Сервис добавления страниц в базу не проверяет robots.txt, проверка происходит позже при работе основного индексатора.

mod_rewrite позволяет гораздо больше, чем просто "подмена адресов" и "любой редирект"

Безусловно. Тогда что Вы подразумевали, когда говорили о "внутрисерверном редиректе"?

Скорее всего Orlis под внутрисерверным редиректом подразумевал использование модуля Апача mod-rewrite, с помощью которого по старым адресам выдаются документы с кодом статуса 200. Хотя на самом деле любой редирект позволяет перенаправить пользователя и/или робота поисковых систем на другой документ с другим адресом, а использование mod_rewrite правильнее назвать "подменой адресов".

?
Миха, на Rambler сработает noindex ?

Я не Миха, однако прочитайте документ на Рамблере, пункт 12. ;)

Одинаковые телефоны, один хозяин..

Поисковики пока по одинаковому телефону или хозяину домены не клеят. :)

Если дизайн и контент разные, то, ИМХО, склеивать не будут.

Ошибочный robots.txt чаще всего игнорируется т.е. индексируется все, что робот нашел.

Всего: 1011