Каталог и роботс.тхт

D
На сайте с 19.05.2006
Offline
8
647

Собственно интерес заключается в следующем:

вот если меняться с серьезным , например, корпоротивным сайтом ссылками, как проверить или уберечь себя от того, что это каталог не будет индексироваться и просматриваться роботами, т.е. например в robots.txt не будет прописано не разрешать индексировать этот каталог?

Bloody dude
На сайте с 16.03.2006
Offline
68
#1
Doppler:
Собственно интерес заключается в следующем:
вот если меняться с серьезным , например, корпоротивным сайтом ссылками, как проверить или уберечь себя от того, что это каталог не будет индексироваться и просматриваться роботами, т.е. например в robots.txt не будет прописано не разрешать индексировать этот каталог?

Посредством переговоров с веб-мастером данного сайта

D
На сайте с 19.05.2006
Offline
8
#2

Ну, например, я могу сказать, что каталог очень хорошо индексируется, а у самого на самом деле в роботс.тхт прописан Disallow на этот каталог. Что делать? Как быть?

Party
На сайте с 03.11.2005
Offline
38
#3
Doppler:
Ну, например, я могу сказать, что каталог очень хорошо индексируется, а у самого на самом деле в роботс.тхт прописан Disallow на этот каталог. Что делать? Как быть?

Не меняться с такими. Что тут еще сделаешь.

Нет мира, кроме тех,
к кому я привык,
и с кем не надо нагружать язык...
Bloody dude
На сайте с 16.03.2006
Offline
68
#4
Doppler:
Ну, например, я могу сказать, что каталог очень хорошо индексируется, а у самого на самом деле в роботс.тхт прописан Disallow на этот каталог. Что делать? Как быть?

Ну, прежде, чем меняться, посмотрите, что закрыто от индексации... Есть даже специальная примочка для файрфокса - выделяет все ссылки, которые запрещены к индексации. Просто роботс.тхт посмотрите, тэги... Но всем же ж этим люди занимаются - соответственно, нужно обсуждать условия

D
На сайте с 19.05.2006
Offline
8
#5

Можно ли посмотреть этот роботс.тхт? Точнее возможность есть - просто его набираешь в строке браузера site.ru/robost.txt.

Формулирую вопрос четче:

Он всегда должен находиться в корне сайта? Можно его как-то спрятать от глаз людских?

K
На сайте с 31.01.2001
Offline
737
#6
Doppler:
Он всегда должен находиться в корне сайта? Можно его как-то спрятать от глаз людских?

Да.

Спрятать никак нельзя.

Выделенные полосы в Москве (http://www.probkovorot.info) привели к снижению скорости до 23%.
SZ
На сайте с 17.08.2005
Offline
63
#7

Kost, можно. Сделав через mod_rewrite обратотку на php, и выдавать только для определенных user-agent, или для определенного диапазона ip, или ещё как.

А простым обывателям выдавать какой-нить левый robots.txt, в котором все разрешено.

MyOST
На сайте с 22.01.2006
Offline
559
#8

Doppler, http://www.be1.ru/stat/

заходим сюда и смотрим - ближе к низу, там есть содержание файла роботс

Блог (http://seom.info/) | Ты уже SEO профессионал? (http://www.key-collector.ru/) Развиваем семантику более 8 лет! ()

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий