вопрос по robots.txt

12
S
На сайте с 21.06.2010
Offline
8
713

подскажите пожалуйста , правильно ли я написал robots.txt

сайт в профиле

kimberlit
На сайте с 13.03.2007
Offline
370
#1
sokolik:
подскажите пожалуйста , правильно ли я написал robots.txt
сайт в профиле

Сейчас все ломанутся в профиль, потом будут открывать ваш роботс... Только шнурки погладят...

S
На сайте с 21.06.2010
Offline
8
#2

у меня сомнения .

правильна ли последняя строка

User-Agent: *

Disallow: /search

Disallow: /account

Disallow: /profile

Disallow: /changepassword

Disallow: /favorites

Host: www.site.com

Sitemap: http://www.site.com/sitemapXML/sitemap.xml

kimberlit
На сайте с 13.03.2007
Offline
370
#3

Sitemap? Правильно.

D
На сайте с 30.09.2008
Offline
107
#4
sokolik:
у меня сомнения .
правильна ли последняя строка

Так это карта сайта, а не роботс.

Phreak
На сайте с 29.11.2009
Offline
156
#5
DC***:
Так это карта сайта, а не роботс.

Это указание карты сайта в файле robots.txt

KMA.BIZ (/ru/forum/869394) - Хочешь денег? Раздаем Oblivochki.biz ( /ru/forum/879341) - Обливочки. Они ждут тебя. Облейся трафом
D
На сайте с 30.09.2008
Offline
107
#6
Phreak:
Это указание карты сайта в файле robots.txt

Когда я писал свой пост (#6), там была просто ссылка на карту сайта.

fan
На сайте с 08.07.2005
Offline
142
fan
#7

Я бы еще отдельный блок для Яндекса сделал, т.е. так:

User-Agent: *

Disallow: /search

Disallow: /account

Disallow: /profile

Disallow: /changepassword

Disallow: /favorites

User-Agent: Yandex

Disallow: /search

Disallow: /account

Disallow: /profile

Disallow: /changepassword

Disallow: /favorites

Host: www.site.com

Sitemap: http://www.site.com/sitemapXML/sitemap.xml

S
На сайте с 21.06.2010
Offline
8
#8

я не знал, что, например команда Host должна находиться только после Disallow/Allow

может и Sitemap должен быть строго на своём месте ? ))

MS
На сайте с 21.06.2010
Offline
2
#9

да, sitemap правильно

kirill2009
На сайте с 20.08.2009
Offline
52
#10
fan:
Я бы еще отдельный блок для Яндекса сделал, т.е. так:
User-Agent: *
Disallow: /search
Disallow: /account
Disallow: /profile
Disallow: /changepassword
Disallow: /favorites

User-Agent: Yandex
Disallow: /search
Disallow: /account
Disallow: /profile
Disallow: /changepassword
Disallow: /favorites
Host: www.site.com

Sitemap: http://www.site.com/sitemapXML/sitemap.xml

А смысл, так делать?

Результаты: ТИЦ 300, PR 6 - ОТ САПЫ (http://www.sape.ru/r.DSXgZcFAAV.php) "Вечные ссылки и статьи" (http://www.liex.ru/A5B7B2E9B3816577D46B87359EC8781E.htm)"Заработок для вебмастеров" (http://advego.ru/7hGY8GSPW5)
12

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий