Яндекс блокирет мой vip

A2
На сайте с 03.02.2009
Offline
9
704

Знающие люди подскажите. При автоматическом мониторинге позиций яндекс блокирет ip адрес.

Как это обойти (прокси пробовал - слишком медленно)

Lisiipen
На сайте с 04.06.2008
Offline
105
#1
andreyd22:
Знающие люди подскажите. При автоматическом мониторинге позиций яндекс блокирет ip адрес.

Как это обойти (прокси пробовал - слишком медленно)

когда смотрите позиции 2 выхода

1 (если мало запросов ) использовать XML

2 ставить задержки между запросами побольше, ( но это тоже медленно)

Злой Яndex - найдет всех
A2
На сайте с 03.02.2009
Offline
9
#2

ХМЛ - не катит, запросов много.....

видимо придется задержку ставить....

T.R.O.N
На сайте с 18.05.2004
Offline
314
#3
andreyd22:
ставить задержки между запросами побольше, ( но это тоже медленно)

непоможет. Просто блокировка придет чуть позже.

andreyd22:
прокси пробовал - слишком медленно

можно поинтересоваться, какое количество прокси пробовали и откуда брали адреса? Прокси разные, при грамотном использовании - все ок (я не имею ввиду насилование яши, а только о скорости проксей). Вы ещае забываете о паралелных запросах.

Теперь о сути. То что Вы делаете - противоречит правилам яши. Он за это банил и будет банить. Зачем нарываться????? XML какраз и сделан для автоматических запросов. Если Вам такого количества не хватает, значит Вы просто отказываетесь думать головой о том, что и зачем Вы делаете.

От воздержания пока никто не умер. Хотя никто и не родился! Prototype.js был написан теми, кто не знает JavaScript, для тех, кто не знает JavaScript (Richard Cornford)
A2
На сайте с 03.02.2009
Offline
9
#4
T.R.O.N:
непоможет. Просто блокировка придет чуть позже.
можно поинтересоваться, какое количество прокси пробовали и откуда брали адреса? Прокси разные, при грамотном использовании - все ок (я не имею ввиду насилование яши, а только о скорости проксей). Вы ещае забываете о паралелных запросах.

Теперь о сути. То что Вы делаете - противоречит правилам яши. Он за это банил и будет банить. Зачем нарываться????? XML какраз и сделан для автоматических запросов. Если Вам такого количества не хватает, значит Вы просто отказываетесь думать головой о том, что и зачем Вы делаете.

Прокси брал бесплатные, нарыл списки в инете обновляются каждые пол часа....

в данный момент сделал задежку и отслеживание бана: Все же яша банит ip на минуту - две... Но потом снова пускает.

Просто хотел чтобы быстро получались странички и статистика очень оперативно в базу складывалась. Уже всерьез задумался по поводу xml....

По поводу параллельных запросах, что вы имеете ввиду?

Антон Каленик
На сайте с 23.06.2008
Offline
130
#5

A2
На сайте с 03.02.2009
Offline
9
#6

Всем спасибо, за ответы! Решение нашел! Все таки Yandex.Xml

В конце концов 1000 запросов в сутки это не так уж и плохо :-)

Alexey Levin
На сайте с 17.07.2007
Offline
188
#7

Прокси, даже платные - не могу сказать, что выход.

Так как, даже если брать только русские, они разбросаны географически и мы сканируем разную выдачу.

Если вот можно было б собрать в базу только московские, платные прокси, например, то можно было б пользоваться.

А так xml с регистрацией IP рулит

Один поисковый запрос занимает больше вычислений, чем отправка человека на Луну.

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий