Яндекс ищет на сайтах подозрительные страницы

12
Kom
На сайте с 20.01.2005
Offline
67
Kom
1929

Дело в том что пришлось после проведения одного эксперимента поставить на главных страницах более чем 100 сайтов 404 ошибку.

Т.е. сайты не реагировали ни на одну из бывших на них страницах. Всегда отдавалась пустая страница с 404 ошибкой.

Спустя какое-то время (ну может спустя месяц, может раньше) в стате стали появляться заходы робота I, который пытался забрать страницы такого типа (кто в курсе всяких накрутчиков ИЦ и т.п. программ, тот поймёт что там искал Яндекс):

Yandex/1.01.001 (compatible; Win16; I) /robots.txt 2

Yandex/1.01.001 (compatible; Win16; I) /totale-mail-faq.html 1

Yandex/1.01.001 (compatible; Win16; I) /thebestfree-faq1.html 1

Yandex/1.01.001 (compatible; Win16; I) /map.htm 1

Yandex/1.01.001 (compatible; Win16; I) /ddd1.html 1

Yandex/1.01.001 (compatible; Win16; I) /prikup.html 1

Yandex/1.01.001 (compatible; Win16; I) /mailforeurope.html 1

Yandex/1.01.001 (compatible; Win16; I) /sendmoreinfo.html 1

Yandex/1.01.001 (compatible; Win16; I) /rusip-faq3.html 1

Yandex/1.01.001 (compatible; Win16; I) /rusip-rules.html 1

Yandex/1.01.001 (compatible; Win16; I) /termin.html 1

Yandex/1.01.001 (compatible; Win16; I) /prikup1.html 1

Yandex/1.01.001 (compatible; Win16; I) /e-gold.html 1

Yandex/1.01.001 (compatible; Win16; I) /earnforum-rules1.html 1

Yandex/1.01.001 (compatible; Win16; I) /serfing.html 1

Yandex/1.01.001 (compatible; Win16; I) /earnforum-ref1.html 1

Yandex/1.01.001 (compatible; Win16; I) /neosap2.html 1

Yandex/1.01.001 (compatible; Win16; I) /uniqpaid-reg-rules.html 1

Yandex/1.01.001 (compatible; Win16; I) /neosap-rules2.html 1

Yandex/1.01.001 (compatible; Win16; I) /rusip.html 1

Yandex/1.01.001 (compatible; Win16; I) /earnforum1.html 1

Yandex/1.01.001 (compatible; Win16; I) /neosap-faq.html 1

Yandex/1.01.001 (compatible; Win16; I) /rusip2.html 1

Yandex/1.01.001 (compatible; Win16; I) /raskrutka2.html 1

Yandex/1.01.001 (compatible; Win16; I) /pochta.html 1

Yandex/1.01.001 (compatible; Win16; I) /uniqpaid-faq.html 1

Yandex/1.01.001 (compatible; Win16; I) /reg.html 1

Yandex/1.01.001 (compatible; Win16; I) /webmoney.html 1

Yandex/1.01.001 (compatible; Win16; I) /b2c-info-faq.html 1

Yandex/1.01.001 (compatible; Win16; I) /earnforum.html 1

Yandex/1.01.001 (compatible; Win16; I) /rusip-faq.html 1

Yandex/1.01.001 (compatible; Win16; I) /uniqpaid-rules.html 1

Yandex/1.01.001 (compatible; Win16; I) /ipspace1.html 1

Yandex/1.01.001 (compatible; Win16; I) /b2c-info.html 1

Yandex/1.01.001 (compatible; Win16; I) /e-gold-reg.html 1

Yandex/1.01.001 (compatible; Win16; I) /owm.html 1

Yandex/1.01.001 (compatible; Win16; I) /webmaster.html 1

Yandex/1.01.001 (compatible; Win16; I) /raskrutim-rules1.html 1

Yandex/1.01.001 (compatible; Win16; I) /neosap1.html 1

Yandex/1.01.001 (compatible; Win16; I) /index.html 1

Yandex/1.01.001 (compatible; Win16; I) /others.html 1

Yandex/1.01.001 (compatible; Win16; I) /avamail.html 1

Yandex/1.01.001 (compatible; Win16; I) /earnforum-rules.html 1

Yandex/1.01.001 (compatible; Win16; I) /neosap-rules1.html 1

Yandex/1.01.001 (compatible; Win16; I) /neosap-rules.html 1

Yandex/1.01.001 (compatible; Win16; I) /fornew.html 1

Yandex/1.01.001 (compatible; Win16; I) /raskrutim2.html 1

Yandex/1.01.001 (compatible; Win16; I) /earnforum-ref.html 1

Yandex/1.01.001 (compatible; Win16; I) /fitl.html 1

Yandex/1.01.001 (compatible; Win16; I) /neosap-faq2.html 1

Yandex/1.01.001 (compatible; Win16; I) /fitl1.html 1

Yandex/1.01.001 (compatible; Win16; I) /ipspace2.html 1

Yandex/1.01.001 (compatible; Win16; I) /wm-mail1.html 1

Yandex/1.01.001 (compatible; Win16; I) /casi2.html 1

Yandex/1.01.001 (compatible; Win16; I) /raskrutim-faq1.html 1

Yandex/1.01.001 (compatible; Win16; I) /e-mail_pays_u.html 1

Yandex/1.01.001 (compatible; Win16; I) /rusip3.html 1

Yandex/1.01.001 (compatible; Win16; I) /wmclickmail.html 1

Yandex/1.01.001 (compatible; Win16; I) /wm-mail-faq.html 1

Yandex/1.01.001 (compatible; Win16; I) /uniqpaid-faq1.html 1

Yandex/1.01.001 (compatible; Win16; I) /totale-mail.html 1

Yandex/1.01.001 (compatible; Win16; I) /wm-mail-rules1.html 1

Yandex/1.01.001 (compatible; Win16; I) /uniqpaid-reg-rules1.html 1

Yandex/1.01.001 (compatible; Win16; I) /htmail.html 1

Yandex/1.01.001 (compatible; Win16; I) /uniqpaid-rules1.html 1

Yandex/1.01.001 (compatible; Win16; I) /rusip-rules1.html 1

Yandex/1.01.001 (compatible; Win16; I) /mailclicker.html 1

Yandex/1.01.001 (compatible; Win16; I) /howform.html 1

Yandex/1.01.001 (compatible; Win16; I) /rusip-rules2.html 1

Yandex/1.01.001 (compatible; Win16; I) / 1

Подобных страниц никогда не было на этих сайтах.

Подобные программы никогда не использовались на этих сайтах.

Возможно это уже не новость, но всёже не встречал здесь подобных тем.

Если есть вопросы - спрашивайте.

Пользуясь случаем, поздравляю всех с наступающим новым годом! -)

midian777
На сайте с 07.07.2004
Offline
108
#1
Kom:
Если есть вопросы - спрашивайте.

Чего с этим делать?

Tow
На сайте с 28.09.2005
Offline
152
Tow
#2

очень интересно, впервые такое вижу..

но как это связано с 404 ошибкой?

Bor-ka
На сайте с 16.11.2004
Offline
201
#3

Kom, видимо где то стояли ссылки на эти страницы (может случайно где то в каком то проиндексированном прокси-кэше Яндексом), вот Яндекс и пытался их индексировать.

имхо, не стоит обращать внимания.

Сервис полуавтоматического рерайта текста (http://topwriter.ru/)
The WishMaster
На сайте с 29.09.2005
Offline
2543
#4

Поиск страниц для привлечения рефералов у известных спонсоров... интересно...:)

Пешу текста дешыго! Тематики - туризм, СЕО, творчество, кулинария, шизотерика :)
[Удален]
#5

midian777,

а с этим еще и надо что то делать? ;)

Olinka
На сайте с 20.10.2004
Offline
130
#6

Возможно, какой-то Ваш сайт склеился с сайтом о "заработке в интернете", на котором и были эти странички. Вряд ли яндекс вслепую ищет такие страницы на сайтах )

NR
На сайте с 24.09.2005
Offline
25
#7

Похоже на глюк бота (не все они безгрешны). Такое бывает, когда-то я у себя тоже наблюдал подобное: бот Рамблера (или Апорта, подзабыл точно) пытался забрать страницы, которые (как затем выяснилось при помощи Гугла) принадлежали совершенно другому сайту, на другом языке и в другой доменной зоне. Причем сайт тот оказался единственным в сети с такими именами внутренних страниц, откуда были и сделаны такие выводы.

Создание, раскрутка, поддержка веб-проектов, поисковая оптимизация (SEO), консультации. (http://slava.khersoncity.com/seo-design/) Интересны темы туризм, мебель, автомобили, мобильная связь
The WishMaster
На сайте с 29.09.2005
Offline
2543
#8
Olinka:
Возможно, какой-то Ваш сайт склеился с сайтом о "заработке в интернете", на котором и были эти странички. Вряд ли яндекс вслепую ищет такие страницы на сайтах )

Борьба с многочисленными сайтами о заработке?:)

Kom
На сайте с 20.01.2005
Offline
67
Kom
#9

Товарищи

о каких глюках речь?

на более чем 100 сайтах разных тематик?

asn
На сайте с 15.10.2005
Offline
134
asn
#10
Kom:
Товарищи
о каких глюках речь?
на более чем 100 сайтах разных тематик?

хостиг у всех сайтов один? ответ 404 какой? нормальный, или "свой"? во втором случае на 100% уверен что имеет место факт склейки. было такое.

Налетай, торопись, покупай живопись! (http://www.colmix.ru)
12

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий