Парсинг Яндекса через proxy

A
На сайте с 11.03.2011
Offline
60
639

Здравствуйте!

Есть proxy, через него парсю Яндекс, используя серверный скрипт с применением CURL. По неопытности перестарался, забанил Яндекс этот IP.

После этого захожу на Яндекс через proxy, используя свой комп - вижу Яндекс, не ругается.

Захожу на Яндекс через proxy, используя серверный скрипт - Яндекс выдает "301".

Понимаю, что Яндекс различает меня и бота по куке, логам или еще как.

Подскажите, как правильно воспользоваться CURL, чтобы Яндекс воспринимал бота как обычного пользователя?

Спасибо.

PS

И вообще, например, есть большая сеть провайдера, парсинг идет с одного компа - Яндекс банит именно этот комп, а с соседнего можно опять парсить. Яндекс различает компы на одном IP только по кукам или еще как?

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий