SSC - контроль за ссылками в Sape

umklaidet
На сайте с 11.01.2006
Offline
120
#271
rokos:
Похоже, Яндекс начал более активно бороться с автоматическими запросами. Скрипт проверяет некоторое количество первых ссылок нормально, а потом пишет сплошное "НЕТ".

Да, похоже на то, выясняю как обойти.

Usability исследование вашего сайта. (http://usabiliti.ru)
umklaidet
На сайте с 11.01.2006
Offline
120
#272

Сделан и разослан патч. Методом тыка выяснено, что минимальный период задержек между обращениями к Яндексу: 2 - 5 сек., что и реализовано. Если хотите изменить - меняйте в коде. Это временное решение, т.к. время работы скрипта увеличилось в несколько раз, будем искать альтернативу.

И еще реализовано сохранение списка урлов в файлик, чтобы каждый раз не доставать урлы из сапы. Про отображение не только урлов, но и названий помню, будет в след. версии.

Flint
На сайте с 25.12.2002
Offline
98
#273
umklaidet:
Сделан и разослан патч. Методом тыка выяснено, что минимальный период задержек между обращениями к Яндексу: 2 - 5 сек., что и реализовано. Если хотите изменить - меняйте в коде. Это временное решение, т.к. время работы скрипта увеличилось в несколько раз, будем искать альтернативу.
И еще реализовано сохранение списка урлов в файлик, чтобы каждый раз не доставать урлы из сапы. Про отображение не только урлов, но и названий помню, будет в след. версии.

Не помогает.

С уважением, Копылов Кирилл | ICQ - 505-982 | Тел. +7 (8412) 25-22-00
umklaidet
На сайте с 11.01.2006
Offline
120
#274
Flint:
Не помогает.

По-разному. Где-то помогает. Видимо зависит от кол-ва запросов с IP.

Соотв. пробуйте разные хостинги, желательно с выделенным IP, можно пробовать локально.

И я думаю как обойти...

P.S. Интересно - это у меня только такая проблема? Читал про неработающий семонитор, но ведь подавляющее кол-во скриптов и прог должны утыкаться в "Вы робот?"

Flint
На сайте с 25.12.2002
Offline
98
#275
umklaidet:
По-разному. Где-то помогает. Видимо зависит от кол-ва запросов с IP.
Соотв. пробуйте разные хостинги, желательно с выделенным IP, можно пробовать локально.
И я думаю как обойти...

У меня выделенные на хосте. После 30-40 в любом случае нет начинает выдавать.

umklaidet
На сайте с 11.01.2006
Offline
120
#276
Flint:
У меня выделенные на хосте. После 30-40 в любом случае нет начинает выдавать.

Хм. как же он определяет, что это робот, если рефереры, юзер-агенты, задержка - все рандомное?

юни
На сайте с 01.11.2005
Offline
901
#277
umklaidet:
если рефереры, юзер-агенты, задержка - все рандомное?

Может, по этому и определяет? Зачем пользователю с одного айпишника менять рефереры и, особенно, юзер-агентов каждые 2-5 секунд?

https://a-parser.com/ - парсер для профессионалов SEO, маркетологов, арбитражников и SaaS, https://searchengines.guru/ru/forum/944108 - прокси-сервис на базе операторов домашнего интернета, сотни тысяч IP-адресов, канал от 20 Мбит
umklaidet
На сайте с 11.01.2006
Offline
120
#278
юни:
Может, по этому и определяет? Зачем пользователю с одного айпишника менять рефереры и, особенно, юзер-агентов каждые 2-5 секунд?

Ну изначально у меня был всего 1 юзер-агент, дык еще быстрее блочил. Все же дело в задержках, имхо. Сделать 10 - 20 сек. и все будет ок, вот только тогда скрипт будет работать часами.

Agador
На сайте с 16.02.2005
Offline
87
#279
umklaidet:
Сделать 10 - 20 сек. и все будет ок, вот только тогда скрипт будет работать часами.

дык я руками пробиваю 1 запрос в 1-5 секунды наверное, и так списком 1000-2000 запросов - нет никаких блоков, а все скрипты (семонитор тоже) блочат на 20-30ом обращении :( что то тут не так :)

Надо смотреть глазами Яндекса.

Marshalkin.ru (http://www.marshalkin.ru) - Все будёт тип-top F5 - моя любимая кнопка!
R
На сайте с 20.02.2006
Offline
117
#280
umklaidet:
Ну изначально у меня был всего 1 юзер-агент, дык еще быстрее блочил. Все же дело в задержках, имхо. Сделать 10 - 20 сек. и все будет ок, вот только тогда скрипт будет работать часами.

может быть запросы через разные прокси посылать ?

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий