Индексация результатов поиска товаров

M
На сайте с 31.10.2009
Offline
107
511

Не могу понять как боты индексируют результаты поиска товаров.

Пример: есть запрос, в топе эта страница небезызвестного сайта. И так по ооочень многим запросам. Как мне видится это именно поиск. Т.к. в структуре этих страниц не встречал.

Видно что работает скрипт price.aspx с параметрами, а как его результаты хавают боты? Как это так реализовано? Кто в теме, прошу подскажите..

У меня на php все, здесь asp. С ним не имел дел, но надеюсь на php так тоже можно изобразить..:rolleyes:

nash
На сайте с 01.04.2006
Offline
171
#1

Не важно на чем сайт написан, asp или php, у них просто есть карта сайта для поисковиков.

M
На сайте с 31.10.2009
Offline
107
#2

Имеете ввиду xml карту, так понимаю? Не нашел ее у них. Прячут. Есть такая конструкция

<Url type="text/html" template="http://сайт/price.aspx?pcode={searchTerms}&from=os"/>

Но ищет она по номерам. Не по словам (пробовал - не переходит на страницу товара).

Выходит это вообще не поиск, не думал что с помощью карты сайта такие вещи можно делать...

L
На сайте с 14.05.2009
Offline
30
#3

Карта сайта у них есть, и они её совершенно не прячут.

Посмотрите файл robots.txt, там есть ссылка на индекс:

http://www.***.ru/sitemap.axd

M
На сайте с 31.10.2009
Offline
107
#4

lliberty, спасибо увидел.

И все же там нет страниц типа ...price.aspx?pcode={номер}

google смотрин иначе, ему Disallow: /price.aspx стоит. Вот

allow: /price.aspx только для яши стоит..(почему непонятно??)

Ссылок на другие карты нету в этой карте.

Возможно они определяют бот яши и подсовывают др. карту??? или это уже паранойя у меня..

Какие еще варианты скормить страницы? Причем настолько удачно..

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий