вопрос про robots.txt

C
На сайте с 19.09.2001
Offline
120
#31

Ничего не мешает написать так:

Disallow: /result_details_print.asp

Disallow: /result_details.asp?come=0

Остальные страницы в Вашем примере должны нормально индексироваться.

Со вторым путем возникнут проблемы, если найдутся ссылки вида

http://www.domain.ru/result_details.asp?id=479&come=0

С уважением, Владимир Чернышов. (не)?путевые заметки (http://chernyshov.kiev.ua/)
N
На сайте с 21.11.2001
Offline
152
#32

Cherny, спасибо, надеюсь, что Ваша консультация мне поможет. 🍻

C
На сайте с 19.09.2001
Offline
120
#33

Пожалуйста.

ЗЫ. Я черниговское люблю ;)

N
На сайте с 21.11.2001
Offline
152
#34

Буду в Киеве, обязательно угощу. Но "Оболонь"-таки лучше 😎

InSAn
На сайте с 13.01.2003
Offline
60
#35
Но "Оболонь"-таки лучше

Согласен на 100% :)

ADPRO - Мы знаем, что Вам нужно! (http://adpro.ua)
C
На сайте с 19.09.2001
Offline
120
#36

Nicon, Вы можете написать сколь угодно правильный robots.txt, но если сервер при выдаче этого файла говорит, что тип данных -- HTML (text/html), как в случае с сайтом из профайла, то робот может вести себя непредсказуемо.

Так что разбираться Вам надо с IIS.

K
На сайте с 31.01.2001
Offline
737
#37

Nicon, кажется, Cherny заработал на пиво. 🍻

Действительно, выдается text/html вместо

Content-Type: text/plain

.......................................

GET /robots.txt HTTP/1.1

Host: www.automarket.dp.ua

HTTP/1.1 200 OK

Server: Microsoft-IIS/5.0

Date: Tue, 11 Mar 2003 08:05:55 GMT

Connection: close

Content-Length: 2192

Content-Type: text/html

........

Выделенные полосы в Москве (http://www.probkovorot.info) привели к снижению скорости до 23%.
N
На сайте с 21.11.2001
Offline
152
#38
но если сервер при выдаче этого файла говорит, что тип данных -- HTML (text/html), как в случае с сайтом из профайла, то робот может вести себя непредсказуемо

Вот открытие 😕 А должен выдавать? Елки, ну почему я не программист :(. Набрал в штат всяких...

Ладно, разберемся 🚬

Cherny, я не расплачусь по таким громадным долгам никогда 🍻

Может Вы мне еще найдете за сегодня флэшэра в Днепре толкового на сдельную работу ;)

А так? Поменяли, вроде. Видимо робот Яндекса лоялен к таким проходам. Ресурс Melkov`a, в принципе, говорит, что все ок?

Народ, плз, перестаньте мой сайт светить, а то модераторы в саморекламе обвинят 🙄

C
На сайте с 19.09.2001
Offline
120
#39
А так? Поменяли, вроде.

Теперь лучше. ;)

Видимо робот Яндекса лоялен к таким проходам. Ресурс Melkov`a, в принципе, говорит, что все ок?

Ресурс Мелкова и робот все-таки разные программы. Тут несколько месяцев назад было обсуждение схожего вопроса, только там разные роботы Яндекса по разному запрашивали robots.txt, в результате чего некоторые из них файл так и не получали.

Melkov, вот Вам баг репорт для вашего скрипта :D!

Sir[MAI]
На сайте с 22.10.2002
Offline
147
#40

Опаньки! Это, похоже, действительно открытие! 😮

А кто может рассказать, как проверить отклик сервера? 😕 Пожалуйста!

С уважением, Сергей

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий