Как часто можно проверять индексацию страницы Яндексом и Гуглем?

Elbran
На сайте с 29.03.2009
Offline
78
585

Проверить индексацию страницы Яндексом и Гуглем.

Есть к примеру 150 страниц, которые нужно проверить на индексацию данными поисковыми системами.

Так вот, написал программку, которая посылаем стандартный запрос в строке поиска

Google: Info: адрес странички

Yandex: url="адрес странички"

Но, т.к. запросы посылаются часто, Гугл и Яндекс принимают меня за вирус, и в итоге:

Яндекс каптчу просит ввести, потом нормальные результаты выдаёт,

а вот с Гуглем вообще проблемы – на несколько часов на мои запросы не отвечает, страницу с кодом ошибки выдаёт 403 (доступ к секретной информации , так по-моему).

Из опыта может кто-что может подсказать, как часто можно запросы посылать, чтобы поисковики меня за вирус не принимали? ( а то опытным путём из-за гугля трудно проверить)

Может раз в полсекунды, или как то пореже, например раз в 2 секунды и т.д.

Просто страниц и 1000 может быть, так если я раз в 10 сек посылать запросы буду – то на это 3 часа уйдёт, а хотелось бы как-то побыстрее.

Домены по 95р (http://reg.ru-tbf.ru/), Сервис по проверке ссылок + генератор статей с уникальностью 95% (http://backlinksmanager.ru/) ICQ: 338-814-942
[Удален]
#1

А зачем вы каждый раз заново проверяете. Сделайте один запрос в яндекс о том какие страницы на сайте проиндексированы а потом регулярными выражениями выберите вас интересующие.

Elbran
На сайте с 29.03.2009
Offline
78
#2

сайты разные, проверяю обратные ссылки

[Удален]
#3
Elbran:
сайты разные, проверяю обратные ссылки

А ну тогда есть много уже готовых решений. Зачем изобретать велосипед?

Elbran
На сайте с 29.03.2009
Offline
78
#4
labsmoseo:
Зачем изобретать велосипед?

А может мне таксистом поработать на этом велосипеде хочется?

Вопрос, не каким сервисом мне пользоваться, а в 1-м посте.

[Удален]
#5
Elbran:
А может мне таксистом поработать на этом велосипеде хочется?

Вопрос, не каким сервисом мне пользоваться, а в 1-м посте.

Ищете адреса прокси и при неудачном проходе цикла. Начинайте сначала с новой прокси.

vitvirtual
На сайте с 18.10.2007
Offline
248
#6

Для яндекса нужно однозначно прикрутить к скрипту xml, и зарегить свой ip в яндексе . Можно в день делать не более 1000 запросов при помощи этого сервиса, а вообще прокси рулят, особенно те, которые в паблик не выкладывают ;)

www.King-Servers.com - Dedicated Servers от 65$, VDS от 25$ / VPN - Open, Pptp, Double. Http proxy - http://secretsline.biz
Elbran
На сайте с 29.03.2009
Offline
78
#7

Я не в курсе, что такое прокси (жизнь не заставляла этим заниматься ранее), но попробую поразбираться.

кстати, я запросы с компа делаю, а не через сайт - это имеет какое-либо значение?

[Удален]
#8
Elbran:
Я не в курсе, что такое прокси (жизнь не заставляла этим заниматься ранее), но попробую поразбираться.

кстати, я запросы с компа делаю, а не через сайт - это имеет какое-либо значение?

Нет разницы между ваш компьютером и удаленным нет никакой.

А про прокси в интернете так много написано что обязательно найдете все и подробно.

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий