Можно ли зациклить индексируещего робота?

12
A
На сайте с 14.01.2005
Offline
41
1117

Наблюдается следующая проблема.

На сайте около 500 страниц. В базе Яндекса постоянно находятся 100+-20страниц, число их постоянно меняется.

Вопрос: Возможно ли структурой сылок на сайте зациклить робота таким образом, что он не проходит дальше определенных страниц?

ps. Страницы генерируются скриптом, но информация на них не меняется. URLы сделаны через mod_rewrite.

Работа по безналичному расчету.
I
На сайте с 22.10.2005
Offline
58
Iso
#1

Недавно видел такую ошибку: на странице была ссылка на "режим для печати", устроенная так:

<a href="CURL?print=1">print</a>, где CURL - текущий адрес. По ошибке программиста эта ссылка была и на самой странице для печати. В результате, роботы лезли на адреса

site.ru/?print=1

site.ru/?print=1?print=1

site.ru/?print=1?print=1?print=1

и т.д.

И это было для всех страниц сайта! :)

Короче, индексировалось всё медленно и находилось плохо, т.к. роботам приходилось качать много одинаковых страниц, а потом ещё и убивать дубли. Может и у Вас что-нибудь похожее сделано? Такую ошибку легко найти, посмотрев, чего именно качают пауки.

Я
На сайте с 31.03.2006
Offline
2
#2

Artad, нам знаком ваш сайт. На нем стоит ручной фильтр.

С уважением, Платон Щукин.
A
На сайте с 14.01.2005
Offline
41
#3

Какова причина фильтра? Или мы может быть говорим о разных сайтах?

Ведь адреса я не давал :)

M
На сайте с 29.03.2006
Offline
2
#4
Artad:
Какова причина фильтра?

да, мне это тоже очень интересно

M
На сайте с 29.03.2006
Offline
2
#5

Яндeкс,

[offtop]

скажите в чем причина, дельных мыслей не получил:

/ru/forum/43704

[/offtop]

sash83
На сайте с 09.02.2006
Offline
41
#6
Artad:
Какова причина фильтра? Или мы может быть говорим о разных сайтах?
Ведь адреса я не давал :)

Адрес твоего сайта Яндекс нашел на этом или каком-то другом форуме. Видимо когда-то ты всеже проговорился. Поищи в нете свои сообщения и поудаляй быстрее. 🙅

Я
На сайте с 31.03.2006
Offline
2
#7

Artad, а вы не в курсе, что мы можем его итак определить?

Вы описали достаточно признаков для выделения группы сайтов. Остальная информация о вас взята прямо на этом сайте из открытых источников. Например IP определен по ICQ.

NetBot
На сайте с 26.10.2005
Offline
172
#8
Яндeкс:
Artad, а вы не в курсе, что мы можем его итак определить?
Вы описали достаточно признаков для выделения группы сайтов. Остальная информация о вас взята прямо на этом сайте из открытых источников. Например IP определен по ICQ.

с 1-м апреля!

"яндекс" жжот нипадецки.

---------

З.Ы. Яш.. ты это.. осторожнее.. тут все хронические параноики..☝

A
На сайте с 14.01.2005
Offline
41
#9

IP по ICQ не всегда определишь когда в онлайне. А я вообще аську последние несколько дней не включал

:)

Я
На сайте с 31.03.2006
Offline
2
#10

Artad, логи хранятся. Не думаете же вы, что у нас нет друзей среди провайдеров?

12

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий