Вопрос по robots.txt

E
На сайте с 15.07.2006
Offline
60
#11

joost, получается так.

User-agent: Yandex

Disallow:

Host: www.site_url.ru

User-agent: *

Disallow:

+ в Disallow можно добавить те дерективы сайта которые хочешь, чтобы они не индексились роботами.

Обзор компьютерных комплектующих (http://komp-obzor.ru/)
FlyAway
На сайте с 01.06.2005
Offline
439
#12

ePRom, именно

Сердюченко Андрей (http://www.serdyuchenko.ru/) Масонская ложа — SЕ-Team.ru (http://goo.gl/YIjV6h) :)
ZeHer
На сайте с 01.04.2006
Offline
87
#13

FlyAway, скажите это верно для вновь созданного сайта, чтобы сразу расставить точки над И , а как для не новых ресурсов неправильно опредленных яндексом так же поступить?

Дело в том что тут и меня беда постигла нежданно :(

Еще в июле все нормально было сайт в индексе находился как и было спланированно изначално http://site.ru, на сайте все ссылки правильные и 99% беков тоже в таком виде.

И вот захожу недавно проверить индекс и наблюдаю что абсолютно все по какому то дикому шаманству стало с приставкой www, Тиц на site.ru обнулился, взамен перешел на www.site.ru с небольшой потерей.

Написал в роботсе чтобы вернуть назад все - (полное содержание)

User-agent: *

Host: site.ru

Достаточно ли этого ?

Лёлик
На сайте с 28.04.2006
Offline
54
#14
ZeHer:
FlyAway, скажите это верно для вновь созданного сайта, чтобы сразу расставить точки над И , а как для не новых ресурсов неправильно опредленных яндексом так же поступить?
Дело в том что тут и меня беда постигла нежданно :(
Еще в июле все нормально было сайт в индексе находился как и было спланированно изначално http://site.ru, на сайте все ссылки правильные и 99% беков тоже в таком виде.
И вот захожу недавно проверить индекс и наблюдаю что абсолютно все по какому то дикому шаманству стало с приставкой www, Тиц на site.ru обнулился, взамен перешел на www.site.ru с небольшой потерей.
Написал в роботсе чтобы вернуть назад все - (полное содержание)
User-agent: *
Host: site.ru
Достаточно ли этого ?

User-agent: Yandex

Disallow:

Host: site.ru

User-agent: *

Disallow:

FlyAway
На сайте с 01.06.2005
Offline
439
#15

ZeHer, в принципе достаточно. Но лучше писать так, как я писал выше.

S
На сайте с 23.06.2006
Offline
37
#16

ZeHer

Выложите лучше весь файл, если он длинее пяти строк.

Тут есть нюансы...

Принципиальный ответ - да, и еще внутренние ссылки на главную пропишите полностью http;//mysiti.ru/

Но если действительно все переехало, я бы на вашем месте спросил мнение Запридельщика.

FlyAway

Вижу, вы кое что понимаете.

А если так:

User-agent: *

Disallow:/fale/

Disallow:/fale2

User-agent: Google

Disallow:/

User-agent: Yandex

Disallow:/fale/

Disallow:/fale2

Host: www.site_url.ru

Секцию с полем Host: лучше писать в конце или Нужно писать в конце?

Собственно меня в этой записи смущает, что User-agent: * стоит в начале. Роботы дальше могут и не пойти.

А если так:

User-agent: Google

Disallow:/

User-agent: Yandex

Disallow:/fale/

Disallow:/fale2

Host: www.site_url.ru

User-agent: *

Disallow:/fale/

Disallow:/fale2

Роботы Google и Yandex последнюю секцию могут понять как последнюю дерективу для себя...

Впрочем если еще кто нибудь знает подробности о Google просьба показать примерчик с пояснением.

А для тех кто не вьехал - пропишите все ссылки полным путем.

Говорят, и поле Host: вписывать не придется.

А главное ошибок не будет!

Плодоносящий лимон (http://www.limon-room.narod.ru)
FlyAway
На сайте с 01.06.2005
Offline
439
#17

User-agent: Googlebot

Disallow: /

User-agent: Yandex

Disallow: /fale/

Disallow: /fale2

Host: www.site_url.ru

User-agent: *

Disallow: /fale/

Disallow: /fale2

я бы сделал так ;)

Xover
На сайте с 22.05.2006
Offline
101
#18
User-agent: Yandex
Disallow:
Host: site.ru

User-agent: *
Disallow:

после Disallow: пробел нужен или нет?

где тут ставить пробелы?

Покупаю внутренние PR4 на sape.ru (http://www.sape.ru/r.f3cfb23480.php)
Лёлик
На сайте с 28.04.2006
Offline
54
#19
Xover:
после Disallow: пробел нужен или нет?
где тут ставить пробелы?

Вам нужно просто сделать Ctrl+C, потом Ctrl+V. Поменять название сайта и всё. :)

ZeHer
На сайте с 01.04.2006
Offline
87
#20

FlyAway, спасибо сделал как Вы писали.

Scmaks, это все содержимое было, боюсь туда лишнего натулить, да собственно и закрывать нечего.

Ссылки на сайте все стоят правильные изначально, по каталогам так же прогонял без приставки. К тому же, робот не сразу так решил, сайту пол года, в индексе был всегда только site.ru 6к страниц. Какого перца он решил что www главный, ума не приложу.

А кто такой Запридельщик? Простите я тут недавно.

Всем спасибо за консультации, буду ждать теперь, переклейки по новой.

Эх говорила мама, прописывай все сразу в роботс.тхт

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий