проверьте мой robots.txt

seregarulez
На сайте с 20.09.2007
Offline
32
618

Здравствуйте! Прежде чем заливать robots.txt хотелось бы проверить его правильность:

User-agent: Yandex

Disallow:

User-agent: Googlebot

Disallow:

User-agent: StackRambler

Disallow:

User-agent: *

Disallow: /

IRREWERSIBLE
На сайте с 16.03.2006
Offline
163
#1

хост забыли прописать.

skype andreylaki1984
Z
На сайте с 01.06.2008
Offline
182
#2

seregarulez, здесь инфа есть :)

Б
На сайте с 30.06.2008
Offline
200
#3

seregarulez, сами проверьте. :) Инструкция тут. Кстати, Вы от остальных ботов закрыццо решили? У меня Yahoo/MSN приносят 1-2% ежедневно. В основном мобильных пользователей. :)

zuziken, +1. :)

Будь мудрее. Выгляди глупее.
seregarulez
На сайте с 20.09.2007
Offline
32
#4

основная идея разрешить только 3 основным поисковикам. Остальным запретить)) Host обязательно прописывать? Такой robots.txt не запретит ли Яндексу и гуглу поиск по картинкам?

A
На сайте с 12.01.2006
Offline
61
#5

mail.ru поисковик достаточно популярный.

ГЛАВная фарма-партнерка. Удобные аптеки, детальная статистика, высокий конверт! (http://www.glavmed.com/) | 150$ Бонус всем новичкам в ПОКЕРЕ (http://ru.pokerstrategy.com/u1XCQ7) $$$ на дороге (http://www.sape.ru/r.b17970ce21.php)
Б
На сайте с 30.06.2008
Offline
200
#6

Apalon, мэйл покупает выдачу Яндекса, своего бота у них пока нет.

stifler_x
На сайте с 19.06.2008
Offline
193
#7
seregarulez:
Host обязательно прописывать?

Можете не прописывать, если вам по барабану, какое зеркало будет основным....

Б
На сайте с 30.06.2008
Offline
200
#8

seregarulez, но лучше пропишите - чтобы потом не создавать тему про то, как Ваш сайт стал неглавным зеркалом какого-нить плагиатора. :) Ещё посмотрите остальные директивы, глядишь, что-то приглянется. Скажем, при использовании идентификаторов сессий разумно будет включить Clean-param.

seregarulez
На сайте с 20.09.2007
Offline
32
#9

а на счет поиска по картикам? есть у яши и гугла специальные боты для картинок?

Б
На сайте с 30.06.2008
Offline
200
#10

seregarulez, да, есть специальные боты. Вот про Яндекс, про Гугл найти сами сможете? ;)

Специально для индексации картинок в robots ничего прописывать не надо, но учтите, что каталог с картинками не должен быть закрыт директивой Disallow. :)

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий