защита IP

12
falco
На сайте с 25.05.2006
Offline
60
857

Уважаемые форумчане!

Следующий вопрос:

мне нужно написать тузлу, которая много и часто будет обращаться к Яндексу (парсить 1 страницу выдачи)

Вопрос:

как защитить IP от бана Яндексом?

(если такого нет, так и скажите :) )

Заранее благодарю за ответы.

Kwork.ru - услуги фрилансеров по 500 руб.
I
На сайте с 20.09.2005
Offline
55
#1

Парсить выдачу можно через прокси, которые в свою очередь чередуются. Можно также использовать Яндекс.XML.

Еще есть pda.yandex.ru

Г0
На сайте с 19.08.2004
Offline
129
#2
falco:
Вопрос:
как защитить IP от бана Яндексом?

Парсить через прокси. И представляться Эксплорером.

Вижу сусликов, которых нет. Покупаю заброшенные сайты, ссылки с pr17-18, пью водку. В личку. Интим не предлагать.
MASTAKILLA
На сайте с 11.05.2006
Offline
160
#3
falco:
Уважаемые форумчане!
Следующий вопрос:
мне нужно написать тузлу, которая много и часто будет обращаться к Яндексу (парсить 1 страницу выдачи)

Вопрос:
как защитить IP от бана Яндексом?
(если такого нет, так и скажите :) )

Заранее благодарю за ответы.

Proxy используй в своей тульзе....

falco
На сайте с 25.05.2006
Offline
60
#4

itin, Геннадий0, MASTAKILLA, а где можно взять список рабочих прокси? Желательно русских (или это не принципиально?)

Antony69
На сайте с 16.09.2004
Offline
146
#5

Вообще раздобыть и обновлять список живых прокси это довольно непростая задача.

Заметки SEO аналитика (http://www.seonotes.ru)
I
На сайте с 20.09.2005
Offline
55
#6

Не принципиально. Пока выдача Яндекс от принадлежности ip к тому или иному региону не зависит. Списки выкладываются на некоторых ресурсах, продаются за деньги. Конкретных линков не дам, давно не интересовался этой темой :)

falco:
itin, Геннадий0, MASTAKILLA, а где можно взять список рабочих прокси? Желательно русских (или это не принципиально?)
Г0
На сайте с 19.08.2004
Offline
129
#7
falco:
itin, Геннадий0, MASTAKILLA, а где можно взять список рабочих прокси? Желательно русских (или это не принципиально?)

Всегда беру тут:

http://www.leader.ru/secure/ там ссылочка есть.

Однако есть еще одна небольшая проблема. Яндекс не очень любит прокси и иногда ругается, что "с этого IP" заходить нельзя :) Во всяком случае раньше там было.

Если вы будете парсить выдачу раз в день, то никто вас не забанит.

Еще раз повторяю, представляйтесь в юзерагенте известным браузером.

S
На сайте с 15.02.2005
Offline
44
#8
falco:
Уважаемые форумчане!
Следующий вопрос:
мне нужно написать тузлу, которая много и часто будет обращаться к Яндексу (парсить 1 страницу выдачи)

Вопрос:
как защитить IP от бана Яндексом?
(если такого нет, так и скажите :) )

Заранее благодарю за ответы.

IP банить - бред... полный бред... на одном IP могут быть тысячи людей...

К примеру взять твой локальный комп сделав на нем штуку которая хоть обдолбит яшу со всех сторон - 1. яша этого даже не заметит, 2. забанив твой IP они забанят все остальные IP ....

У меня система работает уже пол года дает в сутки около 200 000 запросов к яше и ничего.

программирую с 12 лет на всём и вся
falco
На сайте с 25.05.2006
Offline
60
#9

Геннадий0, огромное спасибо.

тогда такой вопрос:

какое количество обращений в минуту/час/день Яндекс воспримет как попытку автоматического парсинга и попытается забанить IP

P.S. если у кого есть список хороших прокси (с нормальным пингом), скиньте в личку. В долгу не останусь

S
На сайте с 15.02.2005
Offline
44
#10
falco:
Геннадий0, огромное спасибо.
тогда такой вопрос:
какое количество обращений в минуту/час/день Яндекс воспримет как попытку автоматического парсинга и попытается забанить IP
P.S. если у кого есть список хороших прокси (с нормальным пингом), скиньте в личку. В долгу не останусь

Я через него делал парсинг сайта одного - около 100 000 записей...

Тоексть я яшу использовал как мост для того чтобы спереть сайт один который при быстром обращении забанил мне IP, я слил сайт с помощью ссылочки найденые слова для сайта который сливал =)

так как яшу он не банил при быстром обращении 😂

Ну где то за минут 10 слил все страницы... =) Тепер посчитай

Но лучше не эксперементировать над Яшей... Минимально запросов делай, если хочешь напиши мне в личку что ты хочешь сделать, может у меня подобное есть в системе тебе доступ дам будешь через нее работать, чтобы повторно работу не делать и не мучать яшу

12

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий