Как правильно закрыть урл от поисковых роботов?

12
DN
На сайте с 20.07.2006
Offline
32
794

Подскажите, пожалуйста, как правильно в роботсе. Есть урлы типа:

http://site.ru/discussthis/new/а тут циферки разные ставятся автоматом

Как сделать так, чтобы роботы не доходили туда? Наверное правильно закрыть доступ к урлу

http://site.ru/discussthis/ и всему остальному, что может быть после черты.

Я представляю себе это примерно так:



User-agent: *
Disallow: /discussthis/


Скажите, пожалуйста, это правильно, захватит ли этот вариант все страницы идущие после последней дробной черты?

Цахес
На сайте с 15.03.2007
Offline
205
#1
DmitryNa:
Как сделать так, чтобы роботы не доходили туда?

User-agent: *

Disallow: /discussthis/new/а

- Хорошие и плохие тексты для ваших сайтов (http://www.textsale.ru/team57397.html). - Удаленная работа. Вакансия копирайтера/рерайтера. (http://advego.ru/6myq8sgvKk) - Быстрое составление семантического ядра (https://topvisor.ru/?inv=39380).
mikuny
На сайте с 13.12.2007
Offline
45
#2
DmitryNa:
Подскажите, пожалуйста, как правильно в роботсе. Есть урлы типа:
http://site.ru/discussthis/new/а тут циферки разные ставятся автоматом
Как сделать так, чтобы роботы не доходили туда? Наверное правильно закрыть доступ к урлу
http://site.ru/discussthis/ и всему остальному, что может быть после черты.
Я представляю себе это примерно так:



User-agent: *
Disallow: /discussthis/




Скажите, пожалуйста, это правильно, захватит ли этот вариант все страницы идущие после последней дробной черты?

да правильно, вы закрыли от индексации директорию(папку) /discussthis/, и эта директория и все что в ней находится, индексироваться не будет.

Бизнес начинается с регистрации Большой процент с продажи с продажи (http://www.goldstimul.com/affiliates/signup.php?a_aid=4dda60bca9363)
DN
На сайте с 20.07.2006
Offline
32
#3
mikuny:
да правильно, вы закрыли от индексации директорию(папку) /discussthis/, и эта директория и все что в ней находится, индексироваться не будет.

Т.е. все внутренние папки и файлы будут недоступны для роботов, верно?

Цахес
На сайте с 15.03.2007
Offline
205
#4
DmitryNa:
Т.е. все внутренние папки и файлы будут недоступны для роботов, верно?

Да, запрещена индексация папки /discussthis/ и всего её содержимого.

DN
На сайте с 20.07.2006
Offline
32
#5

Большое спасибо за помощь :)

DmitryNa добавил 07.12.2008 в 15:35

Если я не ошибаюсь, то через мой роботс новый прорвался робот Яху - http://www.webnames.ru/scripts/whois.pl?domain_name=67.195.37.89 , подскажите, пожалуйста, как быть?

Цахес
На сайте с 15.03.2007
Offline
205
#6
DmitryNa:
Если я не ошибаюсь, то через мой роботс новый прорвался робот Яху

И что в этом сверхъестественного?

Ctulhu
На сайте с 21.05.2005
Offline
222
#7
DmitryNa:
Скажите, пожалуйста, это правильно, захватит ли этот вариант все страницы идущие после последней дробной черты?

Да. Правильно. Все урлы, содержащие

DmitryNa:
.ru/discussthis/
будут удалены из выдачи всех ПС, спустя время.
DN
На сайте с 20.07.2006
Offline
32
#8
Цахес:
И что в этом сверхъестественного?

Нужно сделать, чтобы он не прорывался, как?

Цахес
На сайте с 15.03.2007
Offline
205
#9
DmitryNa:
Нужно сделать, чтобы он не прорывался

Добавить в robots.txt:

User-agent: Slurp

Disallow: /

DN
На сайте с 20.07.2006
Offline
32
#10
Цахес:
Добавить в robots.txt:

User-agent: Slurp
Disallow: /

У меня ведь стоит звезочка вместо имени робота, разве робот Яху не реагирует на неё, его нужно именно носом ткнуть, или он реагирует не сразу, или ещё что-то?

12

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий