Парсить гугл

L
На сайте с 01.08.2006
Offline
138
lis
869

Подскажите пожалуйста: Подскажите если делать к гуглу около тысячи запросов в стуки с интервалом 1-2 минуты (для парсинга выдачи) насколько вероятно что будет бан если запросы делать с одного IP?? Всем заранее спасибо...

П.С. я имею ввиду не бан сайта:) а бан IP адреса на запросы к гугл :)

Cranking
На сайте с 30.11.2008
Offline
172
#1

lis, первый раз о таком слышу. Хотя дать ответа к сожалению не могу.

Аудит сайта и консультации по продвижению и оптимизации. (/ru/forum/568390) Дешевле чем у других форумчан на форуме, много отзывов (моя тема)
intraweb
На сайте с 30.09.2007
Offline
200
#2

2 минуты достаточно большой интервал, не должен банить. Хотя не факт.

Создание и продвижение сайтов https://www.nabiev.net/ (https://www.nabiev.net/)
B
На сайте с 07.02.2005
Offline
161
#3

lis, 2 мин нормальный интерва, чтобы изежать бана, но для полной гарантии лучше, чтобы интервал менялся случайным образом. В настройках семонитора есть возможность такая.

U
На сайте с 15.08.2008
Offline
149
#4

/ru/forum/306080 посмотрите эту тему может вам поможет

intraweb
На сайте с 30.09.2007
Offline
200
#5
bober:
lis, 2 мин нормальный интерва, чтобы изежать бана, но для полной гарантии лучше, чтобы интервал менялся случайным образом. В настройках семонитора есть возможность такая.

Хорошая идея.

mstar
На сайте с 19.12.2005
Offline
133
#6
lis:
Подскажите пожалуйста: Подскажите если делать к гуглу около тысячи запросов в стуки с интервалом 1-2 минуты (для парсинга выдачи) насколько вероятно что будет бан если запросы делать с одного IP?? Всем заранее спасибо...

П.С. я имею ввиду не бан сайта:) а бан IP адреса на запросы к гугл :)

Гиблая затея имхо. Если запросы будут однотипными, а они скорее всего такими и будут - банить будут только так.

Я вот броузером натыкаюсь на грабли, когда делаю запрос именно для определения позиций и закономерности, а для поиска. Так что гугл банит за "нестандартное поведение", а не за превышение лимитов. Лучше сразу в сторону АПИ хмльного смотреть. Да, есть погрешность и расхождения. А где их сейчас нету. Стабильные позиции канули в лету.

Разработка сайтов (http://www.mstarproject.com/?action=tecdoc_mysql_site) - удобные веб приложения по разумной цене.
DirtyWay
На сайте с 21.03.2008
Offline
29
#7

Ничего подобного.

Мой скрипт парсит гугловскую выдачу примерно раз в 10 секунд. И вполне успешно.

Подозреваю, что ключевое слово здесь "примерно", так как интервалы могут быть разными - от 8 до 12 секунд.

А представьте себе, как обращаются к гуглу обитатели локальных домовых сетей, у которых на выход всего один айпи на полторы тысячи человек? Я уверен, значительно чаще, чем раз в 2 минуты.

1
На сайте с 03.02.2009
Offline
2
#8

75 запросов с интервалом 2 секунды, не банит

думаю, что можно и больше.

когда тестировал - по несолько раз подряд гонял.

правда, у меня полная эмуляция браузера (все заголовки, наличие кукис, POST запросы итп)

F
На сайте с 12.09.2003
Offline
120
#9

а прокси кто то отменял?

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий