robots.txt и доры?

12 3
xumukys
На сайте с 23.03.2009
Offline
107
2580

Вообщем возник такой вопрос:заливаете ли вы robots.txt вместе с дорами?Залываете ли вы его пустым или что в него можно напихать?

кроме этого

User-agent: Yandex

Disallow: /cgi-bin

Host: site.ru

Allow: /

Какие вообще команды роботс файла актуальны для доров?

polla
На сайте с 29.12.2008
Offline
29
#1

а вам мысль закрыть от индексации файл с редиректом не приходила

LibertyTRaffic -покупка трафика (http://www.libertytraffic.ru), регистрация доменов по низким ценам Покупка доменов и аренда сайтов.
H
На сайте с 17.04.2009
Offline
63
#2

Обычно создаю.

Еще прописываю путь к сайтмапу:

Sitemap: http://mysite.ru/sitemap.xml

Только не вижу чтобы это както ускоряло индексацию...

Редиректы не ставлю вообще.

Халявный трафик! (http://nagon.net)
xumukys
На сайте с 23.03.2009
Offline
107
#3
polla:
а вам мысль закрыть от индексации файл с редиректом не приходила

Делаю безредиректные доры🙅

polla
На сайте с 29.12.2008
Offline
29
#4
xumukys:
Делаю безредиректные доры🙅

для поисковика таким способом он и получается без редиректа😂, ибо редирект внутри домена это не бан

s91
На сайте с 13.04.2009
Offline
88
s91
#5

Заливаю практически пустой robots.txt

Просто раздражают ошибки в логах, при обращении ПС к нему

Не бывает белой и черной оптимизации. Бывает только обман и разные способы его реализации
Evil_Genius
На сайте с 03.04.2009
Offline
30
#6

User-agent: Yandex

Allow: /

Sitemap: http://сайт.ру/sitemap.xml

больше ничего и ненадо писать в роботсе

заплыл в работе............
xumukys
На сайте с 23.03.2009
Offline
107
#7
polla:
для поисковика таким способом он и получается без редиректа😂, ибо редирект внутри домена это не бан

Ага и за что же тогда ваши доры банят тогда?😂

Или вы мультимиллионер и у вас все доры вечно живут?

V
На сайте с 04.04.2007
Offline
75
#8
Evil_Genius:
User-agent: Yandex
Allow: /
Sitemap: http://сайт.ру/sitemap.xml

больше ничего и ненадо писать в роботсе

Правильно так:

User-agent: Yandex

Disallow:

Sitemap: http://сайт.ру/sitemap.xml

По стандарту Disallow обязательная инструкция, а инструкции Allow вообще не существует, хотя некоторые роботы и понимают ее

otakuran
На сайте с 27.07.2008
Offline
127
#9

User-agent: *

Disallow:

Host:

Sitemap:

bigturtle
На сайте с 12.10.2008
Offline
136
#10

http://robotstxt.org.ru/

Вроде не плохой сайт о robots.txt

12 3

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий