Яндекс & robots.txt

1 234
Sergey Petrenko
На сайте с 23.10.2000
Offline
482
#21

Указанной странице в выдаче не наблюдается, зато есть http://sochi.net.ru/cgi-bin/ht2/ht2-cgi.cgi?=se$TRIPP_LITE_BUG с указанием "Найден по ссылке". Вполне понятная ситуация - никто ее не индексировал, что не мешает ее находить.

M
На сайте с 29.03.2003
Offline
65
#22
Gray:
Указанной странице в выдаче не наблюдается, зато есть http://sochi.net.ru/cgi-bin/ht2/ht2-cgi.cgi?=se$TRIPP_LITE_BUG с указанием "Найден по ссылке". Вполне понятная ситуация - никто ее не индексировал, что не мешает ее находить.

Для вас есть скриншот того, что вам поисковик показывал вчера:

Проверь свои запросы: Вершки Рунета (http://www.43n39e.ru/)
BigBrother
На сайте с 16.06.2006
Offline
96
#23
Maxime:
Для вас есть скриншот того, что вам поисковик показывал вчера:

Быстрый робот постарался. Сейчас до офиса доеду, разберемся.

So many kings, but few jokers!
wolf
На сайте с 13.03.2001
Offline
1183
#24
Seventh Son:
Скажите, пожалуйста, как Вас зовут. Мы знаем поименно всех Яндексоидов, здесь время от времени появляющихся, а Вашего имени не знаем.

Я думаю, когда человек сочтет нужным представиться, он это сделает. Немного некорректно, на мой взгляд, торопить события. ;)

Сергей Людкевич, независимый консультант, SEO-аудиты и консультации - повышаю экспертность SEO-команд и специалистов ( http://www.ludkiewicz.ru/p/blog-page_2.html ) SEO-блог - делюсь пониманием некоторых моментов поискового продвижения ( http://www.ludkiewicz.ru/ )
LR
На сайте с 30.03.2006
Offline
19
#25
Я думаю, когда человек сочтет нужным представиться, он это сделает. Немного некорректно, на мой взгляд, торопить события.

У человека примечательный ник. О многом может рассказать.

Lermont.ru (http://www.lermont.ru) - каталог сайтов с автоматической рубрикацией. Заметки модератора (http://lermont.ru/blog/).
BigBrother
На сайте с 16.06.2006
Offline
96
#26
Maxime:
Для вас есть скриншот того, что вам поисковик показывал вчера:

Разобрался.

Максим, советую почитать про настройки сервера - у вас robots.txt отдается как text-plain, и при этом спокойно так пакуется gzip. То, что получается мы интерпретируем как пустой файл.

Отключайте паковку....

M
На сайте с 29.03.2003
Offline
65
#27
BigBrother:
Разобрался.

Максим, советую почитать про настройки сервера - у вас robots.txt отдается как text-plain, и при этом спокойно так пакуется gzip. То, что получается мы интерпретируем как пустой файл.

Отключайте паковку....

Советую почитать RFC2616 (спецификация HTTP/1.1) про Content Encoding.

При использовании сжатия контента, значение Content-Type, то, что вы назвали text-plain, не изменяется, добавляется только заголовок Content-Encoding с указанием метода сжатия, и, самое главное, сжатие при передаче включается только, если клиент сообщит серверу о поддержке этой фичи, т.е. если ваш бот не поддерживает сжатие контента, не посылайте в вашем запросе заголовок Accept-Encoding !

M
На сайте с 29.03.2003
Offline
65
#28

Добавка: валидатор http://tool.motoricerca.info/robots-checker.phtml проблем со сжатием не находит, ровно как и robots.txt analysis в Google sitemaps (последняя проверка September 25, 2006 11:09:21 AM PDT). Выходит, всё-таки дело именно в вашем боте.

LR
На сайте с 30.03.2006
Offline
19
#29

http://www.yandex.ru/cgi-bin/test-robots?host=sochi.org.ru


Запрещена индексация всех URL, начинающихся с указанных префиксов:

/D-Link
/DataparkSearch
/Justine
/UdmSearch
/ads/?screen=Add
/ads/?screen=Delete
/banner
/cgi-bin/ht2
/cgi-bin/newinsearch.ru
/cgi-bin/search
/cgi-bin/storedoc
/cgi-bin/thermban.png
/job?Current_Screen=Add
/job?Current_Screen=Delete
/js/
/mike/
/mnogosearch
/rate
/rc5
/statistics
/temp
/validator
/wap
/wiki

Получается, что разные боты Яндекса один и тот же robots.txt видят по разному?

wolf
На сайте с 13.03.2001
Offline
1183
#30
Maxime:
если ваш бот не поддерживает сжатие контента, не посылайте в вашем запросе заголовок Accept-Encoding

Хе-хе, кто-то в Яндексе получит по шапке. ;)

1 234

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий