Вопрос по robots.txt

FoxArt08
На сайте с 22.04.2008
Offline
65
503

Правильно ли я понимаю, что robots.txt такого вида разрешает индексацию сайта в Яндексе, кроме страницы www.site.ru/about/, а для остальных ПС запрещает индексацию?

User-agent: Yandex

Disallow: /about/

Host: www.site.ru

User-agent: *

Disallow: /

K
На сайте с 22.09.2008
Offline
6
#1

Ответ, да. Правильно..... почти.

Уточню только что в случае со строкой под Яндекс будут запрещены к индексации также все страницы/урлы содержащие /about/ , то есть:


www.site.ru/about/
www.site.ru/2/about/
www.site.ru/category/213/about/

Если нужно закрыть только эту папку www.site.ru/about/ то нужно написать так:

Disallow: site.ru/about/$

FoxArt08
На сайте с 22.04.2008
Offline
65
#2
Если нужно закрыть только эту папку www.site.ru/about/ то нужно написать так:
Disallow: site.ru/about/$

А если сделать так - Disallow: www.site/about ? В этом случаю я закрываю и директорию about и страницу начинающуюся с about?

kimberlit
На сайте с 13.03.2007
Offline
370
#3
Kligo:
Ответ, да. Правильно..... почти.
Уточню только что в случае со строкой под Яндекс будут запрещены к индексации также все страницы/урлы содержащие /about/ , то есть:
Код:

www.site.ru/about/
www.site.ru/2/about/
www.site.ru/category/213/about/


Если нужно закрыть только эту папку www.site.ru/about/ то нужно написать так:
Disallow: site.ru/about/$

Не неси пургу ...

Приведённые тобой урл будут запрещены при таком раскладе:

Disallow: /*about/

Учи матчасть: http://help.yandex.ru/webmaster/?id=996567

K
На сайте с 22.09.2008
Offline
6
#4
kimberlit:
Не неси пургу ...
Приведённые тобой урл будут запрещены при таком раскладе:
Disallow: /*about/

Учи матчасть: http://help.yandex.ru/webmaster/?id=996567

Сорри. Да, ты прав. Дело было вечером..заработался немного.

Приведённые мной примеры действительно будут закрыты в случае:

Disallow: /*about/

Но в остальном я написал всё верно. То есть если FoxArt08 хочет закрыть только каталог, то нужно писать так:

Disallow: /about/$

oleg1251
На сайте с 11.05.2009
Offline
45
#5

Не забывайте только, что остальные поисковые системы как правило не обращают внимание на robot.txt. Одекватно воспринимает его только яша.

K
На сайте с 22.09.2008
Offline
6
#6
oleg1251:
Не забывайте только, что остальные поисковые системы как правило не обращают внимание на robot.txt. Одекватно воспринимает его только яша.

Не согласен. Адекватно данный файл воспринимают все нормальные поисковики: Яша, Гугл и проч. Не воспринимать могут только те, внимание которых в принцыпе и не нужно, так как трафика они особо не имеют :)

kimberlit
На сайте с 13.03.2007
Offline
370
#7
Kligo:
Но в остальном я написал всё верно. То есть если FoxArt08 хочет закрыть только каталог, то нужно писать так:
Disallow: /about/$

Интересно. Какой смысл закрывать только саму директорию? Её закрывают, чтобы закрыть файлы (страницы) в ней. А какой смысл от этой записи?

Цахес
На сайте с 15.03.2007
Offline
205
#8
oleg1251:
остальные поисковые системы как правило не обращают внимание на robot.txt. Одекватно воспринимает его только яша.

На robot.txt и Яндекс должным образом реагировать не будет. ;)

- Хорошие и плохие тексты для ваших сайтов (http://www.textsale.ru/team57397.html). - Удаленная работа. Вакансия копирайтера/рерайтера. (http://advego.ru/6myq8sgvKk) - Быстрое составление семантического ядра (https://topvisor.ru/?inv=39380).
kimberlit
На сайте с 13.03.2007
Offline
370
#9
oleg1251:
остальные поисковые системы как правило не обращают внимание на robot.txt. Одекватно воспринимает его только яша.
Цахес:
На robot.txt и Яндекс должным образом реагировать не будет

robot.txt ))) Одекватно не будет ...

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий