Яндекс не банит с прокси через браузер, но банит скрипт

kolchakA
На сайте с 19.06.2010
Offline
207
1239

Есть маленький скриптик, который получает серп яндекса (используется cURL). Вот делаю через прокси. Иногда все работает, а иногда яндекс банит скрипт, работающий через прокси (при том что прокси до этого проверялся проксичекером и использовался в браузере для получения той же страницы выдачи яндекса). Сразу отмечу, что по user-agent бан маловероятен, так как я его радномно подставляю из большого массива вариантов. Может яндекс палит, что куки не сохраняются скриптом, хотя с другой стороны, почему он тогда не сразу банит скрипт, работающий без прокси?

В общем кто что думает?

Str01tel
На сайте с 27.12.2009
Offline
26
#1

задержку между запросами менять пробовали?

kolchakA
На сайте с 19.06.2010
Offline
207
#2
Str01tel:
задержку между запросами менять пробовали?

так в том то и дело, что парсит сходу - ни один запрос с прокси не проходит

Ink-developer
На сайте с 31.01.2009
Offline
138
#3

может прокси не анонимные и в итоге поисковик получает исходный ip, еще бывают целые подсети ip блокированы яндексом

LS
На сайте с 27.07.2010
Offline
1
#4

Я бы делал так: поставить браузер и скрипт в одинаковые условия. No cookies, одинаковый User-agent, gzip если есть и т.д.. Потом на сниффере должны быть одинаковые результаты. Возможно заголовок неполный. Если все равно продолжает банить, попробовать то же реализовать, но на чистых сокетах.

[Удален]
#5
kolchakA:
Может яндекс палит, что куки не сохраняются скриптом

а что мешает сохранять куки?

kolchakA
На сайте с 19.06.2010
Offline
207
#6
profaller:
а что мешает сохранять куки?

Да вот появилась идея, связанная с этим (только там есть еще нюансы), седня ее попробую реализовать.

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий