Происходит ли игнорирование robots.txt?

123
FlyAway
На сайте с 01.06.2005
Offline
439
#11

Мистер Х, глаза раскрой

Сердюченко Андрей (http://www.serdyuchenko.ru/) Масонская ложа — SЕ-Team.ru (http://goo.gl/YIjV6h) :)
[Удален]
#12

FlyAway, чукча не читатель :) А вообще ничего удивительного, удаляет он по мере обхода, а это может быть и очень долго.

FlyAway
На сайте с 01.06.2005
Offline
439
#13

Miha Kuzmin (KMY), согласен, я бы на месте топикстартера запасся терпением)

Rimlyanin
На сайте с 22.02.2006
Offline
200
#14

на моем сайте Я пытался индексировать страницы, которых уже небыло, получал 404ю но все равно выводил их в поиске по нескольким запросам,

на http://webmaster.yandex.ru/delurl.xml ткнул эти страницы стразу посте того как удалил, закончилось вся эта эпопея через 2,5 месяц.

Топикстартер, ждите....

ES
На сайте с 04.05.2005
Offline
109
#15

ясно, спасибо.

Peter1000
На сайте с 19.01.2006
Offline
113
#16

Вообще-то меня удивило это сообщение. Когда я прописал запрет на индексацию, через 10-15 дней сайт исчез из всех поисковиков полностью. И что самое неприятное, запрет я поставил ошибочно. :)

FlyAway
На сайте с 01.06.2005
Offline
439
#17

Peter1000, все зависит от многих факторов: от сайта, от яндекса, от расположения звезд наконец ;)

WEBCOM ART
На сайте с 12.11.2005
Offline
5
#18

А по поводу директивы host: кто что знает?

Яша на нее почему-то откровенно положил.

WebCom ART - Создание и продвижение сайтов, дизайн, интернет-реклама (http://artw.ru) Tel.: +7 (812) 337-26-88, 337-26-89
Agador
На сайте с 16.02.2005
Offline
87
#19
WEBCOM ART:
А по поводу директивы host: кто что знает?
Яша на нее почему-то откровенно положил.

И даже убрал упоминание о ней :)

Marshalkin.ru (http://www.marshalkin.ru) - Все будёт тип-top F5 - моя любимая кнопка!
K
На сайте с 31.01.2001
Offline
737
#20
Miha Kuzmin (KMY):
удаляет он по мере обхода

это если выдавать код 404 и не пользоваться вторым пунктом в форме.

Через форму максимум на втором апдейте должно удалить всю папку.

Выделенные полосы в Москве (http://www.probkovorot.info) привели к снижению скорости до 23%.
123

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий