Нужно ли пихать страницу в роботы.тхт?

Asar
На сайте с 23.08.2004
Offline
334
373

Вот есть у меня страница - типа для пользования не всех. И чтоб не думать долго - загнал я ее в отдельный каталог, да чтоб ссылок не было ни откуда. В таком случае роботы не найдут страницу или они будут шарить по всем папкам подряд, а не ходить по ссылкам с индекса и так далее?

D1
На сайте с 05.05.2004
Offline
280
#1

Если нет на нее ссылок, то можно не писать запись в robots.txt.

Поисковик узнает о структуре папок только по ссылкам.

Но на будующее советую сделать запись навсякий случай.

Asar
На сайте с 23.08.2004
Offline
334
#2

В принципе понял.

Только есть ли в природе на данный момент такие "всякие случаи", из-за которых стоило бы проделывать соотстветствующую запись?

NL
На сайте с 29.01.2003
Offline
212
#3
Только есть ли в природе на данный момент такие "всякие случаи", из-за которых стоило бы проделывать соотстветствующую запись?

По доброй воле или злому умыслу эту страницу "не для всех" может внести в индекс поисковика любой, знающий о ее существовании, да и cсылку проставить тоже.

Народ советует в таких случаях не robots.txt править, а пароль на каталог вешать - "не для всех" гарантированно выйдет и боты ходить не будут.

Asar
На сайте с 23.08.2004
Offline
334
#4

В принципе тож вариант. Тем более, что скрипт соответствующий на сайте уже есть... Сенкс за мысль.

ER
На сайте с 19.11.2002
Offline
107
#5
Поисковик узнает о структуре папок только по ссылкам.

Не только. Рамблеру узнать о новых страницах помогает счетчик Top100, Гуглу - его бар.

NL
На сайте с 29.01.2003
Offline
212
#6
Рамблеру узнать о новых страницах помогает счетчик Top100, Гуглу - его бар.

Вопрос по Гуглу. Действительно ли проверяли сабмит баром новых страниц в индекс? Спрашиваю, потому что сам провожу такой эксперимент - еще в июне сделал страницу для Гугла, которую нигде не свечу и на которою периодически захожу IE с баром. В общем, этой моей страницы до сих пор нет в базе.

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий