Вопрос по robots.txt

12
Yvan
На сайте с 15.04.2010
Offline
55
#11
Kost:
Как ни странно,

Disallow: /users

Открою страшную тайну. Чтобы запретить индексацию страницы, нужно написать ее адрес после директивы Disallow (и ничего не дописывать в конце ее адреса!).

Kost не могу фиды страниц закрыть (сайт.ру/урл страницы/feed/

, лезут и всё да и не только они...Уже просто не знаю в чём дело... Может поможете?!

По поводу того что лезет user, вылезла похожая страница function.include

Disallow: /function.include - так не получилось закрыть

Disallow: */function.include - так сработало, если что можете попробовать с user.

Yvan добавил 29.08.2011 в 19:00

ivmas:
Понял, всего лишь убрать косую.
Да есть страницы, аля "site.ru/pravila.html", "site.ru/o-proekte.html" и т.д. Ссылки на них есть на главной странице, а мне их закрыть нужно! Теперь ясно, что нужно не так
Disallow: /passremind.html/
Disallow: /pomosch.html/
Disallow: /my.html/
Disallow: /pravila.html/
Disallow: /kontakty.html/
Disallow: /o-proekte.html/

А вот так

Disallow: /passremind.html
Disallow: /pomosch.html
Disallow: /my.html
Disallow: /pravila.html
Disallow: /kontakty.html
Disallow: /o-proekte.html

Я правильно все понял?!

Конечно! Слэшь после html вообще не понятно что, 1000% таких страниц нет в природе - точней не было до Вас)))

Wazzuuuuup
K
На сайте с 31.01.2001
Offline
737
#12
Yvan:
не могу фиды страниц закрыть (сайт.ру/урл страницы/feed/

Вам кто-то не разрешает, или что?

Откройте наконец http://help.yandex.ru/webmaster/?id=996567 . Откройте FAQ этого раздела, там есть все нужные ссылки. Читайте.

Disallow: /*/feed

Хватит тупить на форуме, изучайте матчасть, сколько уже можно?

Выделенные полосы в Москве (http://www.probkovorot.info) привели к снижению скорости до 23%.
ivmas
На сайте с 12.01.2010
Offline
121
#13

А еще вопрос, а с юзерами, что делать?

Как правильно?

Disallow: /users/

Disallow: /users

или просто?

Disallow: /users

Ведь на сайте страниц начинающих с users тысячи!

L
На сайте с 13.08.2011
Offline
40
#14

"или просто"

Yvan
На сайте с 15.04.2010
Offline
55
#15
Kost:
Вам кто-то не разрешает, или что?
Откройте наконец http://help.yandex.ru/webmaster/?id=996567 . Откройте FAQ этого раздела, там есть все нужные ссылки. Читайте.

Disallow: /*/feed

Хватит тупить на форуме, изучайте матчасть, сколько уже можно?

У меня в гугл... Ладно, спасибо за наводку, надеюсь Disallow: /*/feed сработает...

K
На сайте с 31.01.2001
Offline
737
#16
Yvan:
У меня в гугл...

Без разницы кроме директивы Host:

Yvan
На сайте с 15.04.2010
Offline
55
#17
Kost:
Без разницы кроме директивы Host:

Понятно, ещё раз спасибо!

K
На сайте с 31.01.2001
Offline
737
#18
ivmas:
или просто?
Disallow: /users

Ведь на сайте страниц начинающих с users тысячи!

http://www.robotstxt.org/orig.html

Disallow
The value of this field specifies a partial URL that is not to be visited. This can be a full path, or a partial path; any URL that starts with this value will not be retrieved.

http://help.yandex.ru/webmaster/?id=996567

Disallow: /cgi-bin # блокирует доступ к страницам
#начинающимся с '/cgi-bin'
Disallow: /example # запрещает и '/example',
# и '/example.html'

ivmas, НУ НЕЛЬЗЯ ЖЕ ТАК ТУПИТЬ !!!

12

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий