запрет страниц в роботсе

12
AboutSEO
На сайте с 18.01.2007
Offline
154
1853

чето я не догоняю....

либо я туплю, либо яндекс забил на роботс.


User-Agent: *
Disallow: /cgi-bin
Disallow: /forum/faq.php*
Disallow: /forum/search.php*
Disallow: /forum/memberlist.php*
Disallow: /forum/ucp.php*
Disallow: /forum/member*
Disallow: /forum/index.php*
Disallow: /forum/posting.php*
Disallow: /forum/viewtopic.php*

Host: www.домен.ru

прямо сейчас вижу урлы в индексе

исходя из роботса этого помоему быть не должно.

или я где-то ошибся?

K
На сайте с 31.01.2001
Offline
737
#1

Не должно. И давно висит такой robots.txt ?

Лучше покажите домен.

Но звездочки я бы убрал нафиг, они тут ни к чему.

Директиву Host можете тоже убрать или уж приклеить к блоку.

Если есть строка

Disallow: /forum/member

То строку

Disallow: /forum/memberlist.php

уже не нужно писать.

Выделенные полосы в Москве (http://www.probkovorot.info) привели к снижению скорости до 23%.
iren K
На сайте с 28.12.2008
Offline
222
#2
AboutSEO:

или я где-то ошибся

User-Agent: *

Disallow: /forum/*faq

Disallow: /forum/*search

Disallow: /forum/*memberlist

Disallow: /forum/*ucp

Disallow: /forum/*member

Disallow: /forum/*index

Disallow: /forum/*posting

Disallow: /forum/*viewtopic

Host: www.домен.ru

c уважением Iren
naleks
На сайте с 11.06.2008
Offline
69
#3

Видимо роботс стоит недавно, и страницы не успели "выпасть" из индекса.

AboutSEO
На сайте с 18.01.2007
Offline
154
#4
Kost:
Не должно. И давно висит такой robots.txt ?
Лучше покажите домен.

Но звездочки я бы убрал нафиг, они тут ни к чему.
Директиву Host можете тоже убрать или уж приклеить к блоку.

Если есть строка

Disallow: /forum/member

То строку

Disallow: /forum/memberlist.php

уже не нужно писать.

линк в личку скинул

форум добавил неделю назад где-то, в роботсе стазу-же прописано было,

сегодня только добавил Disallow: /forum/viewtopic.php*

зы: попробовал проверить валидность в панели ВМ вывалила ошибка - Cервис временно недоступен. Обратитесь немного позже. :)

K
На сайте с 31.01.2001
Offline
737
#5

В любом случае, заодно разберитесь с ID сессий. Роботам не нужны сессии, даже наоборот.

И перечитайте FAQ Яндекса про robots.txt, пригодится.

AboutSEO
На сайте с 18.01.2007
Offline
154
#6
Kost:
В любом случае, заодно разберитесь с ID сессий. Роботам не нужны сессии, даже наоборот.

И перечитайте FAQ Яндекса про robots.txt, пригодится.

на форуме стоит плагин который преобразует в псевдо статику все урлы нужные,

поэтому всю динамику загнал сразу в роботс.

по сессеям да, я читал недавно, помоему на самом-же яндексе, там есть для них специальные коды/параметры(фиг знает как правильно назвать).

в любом случае всем спасибо за подсказки :)

K
На сайте с 31.01.2001
Offline
737
#7
AboutSEO:
по сессеям да, я читал недавно, помоему на самом-же яндексе, там есть для них специальные коды/параметры

Это спец-методы для особо тяжелых случаев, когда нет доступа к вебмастеру, чтобы оторвать ему руки.

AboutSEO
На сайте с 18.01.2007
Offline
154
#8
Kost:
Это спец-методы для особо тяжелых случаев, когда нет доступа к вебмастеру, чтобы оторвать ему руки.

😂

зы а проверка валидности роботс в панели тока у меня ругается или еще у кого?

раньше как-то вообще не доводилось ею(проверкой) пользоваться.

AboutSEO добавил 27.04.2010 в 20:49

сегодня, проверка на валиднось заработала и странным образом все смущающие меня урлы из выдачи пропали даже без изменения роботса, т.е. он остался в первоначальном виде.

есть ли какая взаимосвязь между работой валидатора в панели и ошибками связанными с индексацией запрещенных страниц?

AboutSEO
На сайте с 18.01.2007
Offline
154
#9

маразм крепчал.. :D

сегодняшний АП и опять куча страниц которые запрещены и которые при проверке валидатором тоже запрещены.

нифига я механизм не понимаю..

т.е. сперва качают все подряд, а потом прогонят через роботс???

вместо того, чтобы перед закачкой проверять.

мда уж

N
На сайте с 26.11.2006
Offline
83
nay
#10
AboutSEO:

т.е. сперва качают все подряд, а потом прогонят через роботс???
вместо того, чтобы перед закачкой проверять.
мда уж

роботы разные, синхронизация на уровне.

в панели веб мастера есть "Исключенные страницы"

там достаточно инфо что бы сделать выводы.

12

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий