Робот.тхт для Яху и МСН

12
Vadik'One
На сайте с 30.04.2007
Offline
54
1780

Кто работает с поисковиками Яху и Мсн, подскажите пожалуйста такую информацию:

Есть проиндексированный сайт данными поисковиками. Появилась нужда запретить индексацию этого проекта роботами Яху и Мсн. Были прописаны строчки:

User-agent: msnbot

User-agent: Yahoo! Slurp

Disallow: /

Вопрос в том, что как отнесутся данные поисковики к данному действию:

1. Будет остановлена индексация НОВЫХ страниц.

2. Сайт целиком вылетит и исчезнет из выдачи данных поисковиков.

Буду премного благодарен мнениям и наблюдениям..

you will be number one
Rollo_Tomassi
На сайте с 04.04.2007
Offline
41
#1

Почти уверен, что сайт со временем исчезнет из выдачи данных поисковиков.

Vadik'One
На сайте с 30.04.2007
Offline
54
#2
Rollo_Tomassi:
Почти уверен, что сайт со временем исчезнет из выдачи данных поисковиков.

Спасибо. Есть у кого ещё наблюдения?

rmikel
На сайте с 25.05.2007
Offline
142
#3

Vadik'One, сайт полностью вылетит, тут и думать не надо, так как:

Disallow: /

А это всё, запрет индексации всего сайта.

- Здесь (http://www.sape.ru/r.fa62530507.php) становятся богатыми буратинами... и здесь (http://www.mainlink.ru/?partnerid=11422) тоже. ;) - "В жизни нет ничего такого, ради чего стоило бы спешить" (c)то-то сказал.
Vadik'One
На сайте с 30.04.2007
Offline
54
#4

Спасибо. Теперь душа более менее спокойна.

kimberlit
На сайте с 13.03.2007
Offline
370
#5
Vadik'One:

User-agent: msnbot
User-agent: Yahoo! Slurp
Disallow: /

А зачем вы два юзерагента в одну секцию засунули то?

MyOST
На сайте с 22.01.2006
Offline
559
#6

Сетку делаете? :) у меня тоже от них закрыты проекты сеточные

Блог (http://seom.info/) | Ты уже SEO профессионал? (http://www.key-collector.ru/) Развиваем семантику более 8 лет! ()
K. Ermakov
На сайте с 10.12.2004
Offline
328
#7

Vadik'One,

как правильно заметил kimberlit, необходимо Disallow / прописать отдельно для User-Agent MSNа и для User-Agent Yahoo. Приведённый в первом сообщении robots.txt не соответствует стандарту.

С уважением, Константин Ермаков, absite.ru: онлайн кроссворды (http://absite.ru/); searchsuggest.ru: поисковые подсказки доставляют (http://searchsuggest.ru/).
Zegaldis
На сайте с 09.08.2005
Offline
152
#8
MyOST:
Сетку делаете? :) у меня тоже от них закрыты проекты сеточные

Это типа чтоб по IP адресу не ловили? :))))

Vadik'One
На сайте с 30.04.2007
Offline
54
#9
kimberlit:
А зачем вы два юзерагента в одну секцию засунули то?

Ух ты, спасибо, если честно с роботом мало работаю, по этому возник вопрос.

MyOST:
Сетку делаете? :) у меня тоже от них закрыты проекты сеточные

Не, не сетку 😂

K. Ermakov:
Vadik'One,
как правильно заметил kimberlit, необходимо Disallow / прописать отдельно для User-Agent MSNа и для User-Agent Yahoo. Приведённый в первом сообщении robots.txt не соответствует стандарту.

Ага, понял..

Вот так верно будет?

User-agent: msnbot

Disallow: /

User-agent: Yahoo! Slurp

Disallow: /

Спасибо за инфо ☝

p.s. А я уже засунул в робота предыдущий вариант, большое спасибо за информацию.

MyOST
На сайте с 22.01.2006
Offline
559
#10
Zegaldis:
Это типа чтоб по IP адресу не ловили? )))

нет, чтобы нельзя было на реципиент бэки по яху и мсн смотреть

12

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий