Яндекс индексирует все, что запрещено в robots.txt

1 234
E2
На сайте с 15.12.2006
Offline
128
#21

А зачем для Яндекса отдельный список?

Может где-то пролезли страницы без "index.php" в адресе? Типа /?do=lostpassword.

Ап! И тигры у ног моих сели.
S
На сайте с 28.10.2005
Offline
304
#22

Сайт покажите, чудес не бывает

D
На сайте с 25.07.2008
Offline
43
#23

вот пациент )

уже часть начинает вываливаться, но юзеры по прежнему в индексе (

Инвайты в биржу siwega тут (http://www.siwega.ru/?p=d73a9f) Каркасные дома по канадской технологии (http://vkontakte.ru/club24738149)
L
На сайте с 07.12.2007
Offline
351
#24
droid:
вот пациент )
уже часть начинает вываливаться, но юзеры по прежнему в индексе (

Все делается очень просто - топаете сюда загружаете свой роботс и проверяете какие урл он закрывает, а какие - нет.

Если страница уже попала в индекс и потом Вы её закрыли роботсом - она будет удаляться долго (месяцами). Потому пока робот лично не проверит страницу - она будет в индексе. А у робота - своё расписание очередности обхода url и поменять его сейчас нелья. Раньше - была фича управления роботом-индексатором с помощью "подсветки", но спаленная в паблик она перестала работать.

Можете ускорить этот процесс тут.

Заодно увидите, что незакрытые роботсом страницы не удаляются, и посмотрите какими способами реально можно закрыть страницы от индексации Яндексом - он там сверху все пишет.

PS: В вашем роботсе есть нераспознанные Яндексом директивы: ACAP- - поскольку они не обозначены сверху полем User-agent: ИмяРобота, Яндекс к ним лезет тоже.

S
На сайте с 28.10.2005
Offline
304
#25

Сюда потыкайте папки какие надо удалить http://webmaster.yandex.ru/delurl.xml

K
На сайте с 31.01.2001
Offline
737
#26
droid:
по прежнему в индексе

Вижу дату последнего изменения robots.txt 08 января.

Вы же не думаете, что все должно произойти так быстро?

Выделенные полосы в Москве (http://www.probkovorot.info) привели к снижению скорости до 23%.
kimberlit
На сайте с 13.03.2007
Offline
370
#27
Ladycharm:
PS: В вашем роботсе есть нераспознанные Яндексом директивы: ACAP- - поскольку они не обозначены сверху полем User-agent: ИмяРобота, Яндекс к ним лезет тоже.

Яндекс их игнорирует.

A0
На сайте с 22.03.2009
Offline
229
#28

Ну так Яндекс и не гарантирует, что страницы не будут не индексироваться: http://help.yandex.ru/webmaster/?id=995318 :)

Продвижение и поддержка сайтов. Актуальное конкурентное портфолио. ICQ - 407354474.
D
На сайте с 25.07.2008
Offline
43
#29

acap он не понимает, но это и не для него. Это для подтверждения авторства контента.

А последние изменения в роботсе я делал уже после того, как он выложил в паблик закрытые страницы. Перед этим они 2 месяцы были закрыты, но это не помешало яндексу их проиндексировать (

Но уже смотрю начинают выпадать потихоньку. . Это радует.

Спасибо всем за помощь и ответы. ))

L
На сайте с 07.12.2007
Offline
351
#30
kimberlit:
Яндекс их игнорирует.

Вам, что, трудно пройти по ссылке выше, загрузить роботс и убедиться, что Яндекс лезет в эти директивы?

PS: А что он потом с ними делает - это только одному Яндексу известно.

1 234

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий