Robots.txt

PC
На сайте с 09.01.2001
Offline
40
1928

Привет!

А кто-нибудь может сказать насколько необходимо иметь subj? Влияет ли он на индексацию сайта поисковиками (если, конечно, ничего не надо запрещать)?

Sergey Petrenko
На сайте с 23.10.2000
Offline
482
#1

Этот сайт сабжа не имеет. Признаю, мой недосмотр, в результате Яндекс проиндексировал на сайте 691 документ, из них 10 страниц сайта, 53 страницы форума, остальное - скрипты. Стоило, конечно, запретить для индекса скрипты, ну да ладно. Кстати, один из скриптов на первом месте в Яндексе по слову "поисковики" . Так что, не стоило запрещать

PC
На сайте с 09.01.2001
Offline
40
#2

<font face="Verdana" size="2">Originally posted by Gray:
Этот сайт сабжа не имеет. Признаю, мой недосмотр, в результате Яндекс проиндексировал на сайте 691 документ</font>

ну, Яндекс не единственный поисковик на свете. :-)

Проходила информация, что Lycos, если не находит subj, то индексирует только 1-ю страницу и отваливает. Поэтому я стараюсь делать файл, где говорю, что все разрешено (ну, или что-то запрещаю).

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий