CheckParams - массовая проверка параметров доменов и ссылок

R
На сайте с 08.05.2008
Offline
222
#31

Проверил 25 к доменов на ТИЦ за сегодня, проверяет без ошибок, просто на отлично отрабатывает все функции. В толковых руках программа зверь. Желаю автору успехов, программа буквально развязывает руки 😂

Тема по продвижению сайтов. От 30 000 р. со ссылочным и копирайтингом!. (/ru/forum/801720) Темка по аудитам и консультациям. Стоимость аудита 9 000 рублей. (/ru/forum/622569) skype rastijko
leprekon
На сайте с 13.05.2010
Offline
27
#32

Перепробовав на данный момент несколько подобных программ (в том числе и платных), я остановил свой выбор именно на этой.

Я удивлен, что на данный момент программа пользуется небольшой популярностью. Наверное нашему пользователю привычнее "потыкать кнопочки". Но, несмотря на то, что активных юзеров на данный можно пересчитать по пальцам, автор вот уже как пол года продолжает активно развивать программу. А если учесть, что на данный момент программа распространяется бесплатно, то терпению автора можно только позавидовать.

После того, как ТС прикрутил к программе http интерфейс, появилась возможность использовать программу в каких-то персональных программах/скриптах и не бояться за то, что придется каждую неделю подкручивать код из-за того, что яндекс поменял интерфейс...

Таким образом, из всех программ, представленных на данный момент в открытом доступе, эта программа выигрывает во всём.

Желаю автору удачи в дальнейшем развитии программы!

Siddhartha
На сайте с 14.08.2009
Offline
120
#33

Ух ты.

Как раз нужно проверить 8к доменов на PR и склейку.

mlu, могу я получить ключ?

M
На сайте с 09.02.2008
Offline
68
mlu
#34
Siddhartha:
mlu, могу я получить ключ?

Ключи все могут получить, это бесплатно. Ключи в данный момент нужны лишь для того, чтобы не допустить неконтролируемое распространение :)

[Удален]
#35

Мучю прогу всего пару дней, но впечатление о ней все лучше и лучше, со временем она совершенно справедливо и обязательно, просто должна (обязана) стать платной :)

Есть пара вопросов и пожелание:

1)

Проверка google pr и всех параметров в яндексе через 200-300 рабочих прокси на 300 потоках с задержками, предотвращающими бан = около 15-25 ссылок в секунду.

А задержки эти в параметре check_interval= какие ставить? об этом ни намека нигде. Мне надо регулярно пробивать около 6.тыс доменов на количество страниц в индексе яндекса, все остальные параметры чекает прога нормально но по яндексу около половины в итоге имеют статус Yandex Indexed Pages Error = 1 хотя около 2000 свеже-купленных прокси при этом процессе используются.

т.е. есть надо задержку какую то ставить или параметр retries="10" увеличить раза в три, при этом для скорости надо еще с количеством потоков поэксперементировать, как оптимальнее решить то этот проблем?

2)

В то время, когда программа работает, можно забирать списки проверенных и 100% рабочих прокси из программы по ссылкам вида:
ttp://127.0.0.1:8888/socks5.txt
ttp://127.0.0.1:8888/socks4.txt
ttp://127.0.0.1:8888/https.txt

Непонял, если на локальном компе прога работает то там никаких файлов с проверенными прокси не создается ни в процессе ни после завершения работы, но судя по цитате такие где то быть должны...

аргумент list, который может принимать значения "good", "source", "deleted", который определяет список, в который попадут прокси (аналогично аргументу list в разделе с источниками прокси <source>))

то есть если в разделе с источниками прокси <source> прописано значения "good" то чекать эти прокси на работоспособность программа не будет?

3)

Пожелание - скрипт который бы извлекал из данных полученных модулем Whois дату регистрации и окончание регистрации домена...

M
На сайте с 09.02.2008
Offline
68
mlu
#36
Aндрeй:
А задержки эти в параметре check_interval= какие ставить? об этом ни намека нигде.

Задержки каждый ставит свои, подобранные опытным путём :) От задержек напрямую зависит скорость проверки, но так же зависит и "забаниваемость". Поставьте 60 секунд, посмотрите банят ли. Если не банят, поставьте 30 секунд. Если не банят, то 15 сек. Не банят = 7.5, очень быстро так придёте к варианту, который устраивает Вас больше всего :) Еще эта настройка очень зависит от качества прокси, чем приватнее и малозаюзаннее прокси, тем быстрее можно проверять :) Покупные прокси не являются гарантией того, что они не используются еще кем-то.

Aндрeй:
половины в итоге имеют статус Yandex Indexed Pages Error = 1 хотя около 2000 свеже-купленных прокси при этом процессе используются.

С яндексом вообще беда, банят прокси повально просто. Советую увеличить кол-во попыток проверить параметр через разные прокси (retries). Еще можно отсеивать забаненные прокси прямо на этапе их проверки, для этого необходимо переписать настройки в теге <check> таким образом, чтобы там вместо гугла использовался яндекс с проверкой на бан.

Aндрeй:
Непонял, если на локальном компе прога работает то там никаких файлов с проверенными прокси не создается ни в процессе ни после завершения работы, но судя по цитате такие где то быть должны...

Ну Вы же сами привели ссылки вида http://127.0.0.1:8888/socks5.txt. Вы пробовали открывать их в браузере во время работы программы? %)

Aндрeй:
то есть если в разделе с источниками прокси <source> прописано значения "good" то чекать эти прокси на работоспособность программа не будет?

Да, именно так. Она будет сразу считать их рабочими. Это используется, когда 2 программы цепочкой работают. Одна просто всегда запущена и проверяет прокси, а вторая скачивает по вышеприведённой ссылке уже рабочие прокси и проверяет параметры ссылок через прокси.

Aндрeй:
Пожелание - скрипт который бы извлекал из данных полученных модулем Whois дату регистрации и окончание регистрации домена...

Попробуйте спросить кого-нить из кодеров на форуме. Скрипт настолько простой, что его 90% за спасибо напишут :)

Вот заглушка на пхп:


<?php

$fp = fopen("results.csv", "r");

while (!feof($fp))
{
list($domain, $error, $whois) = explode(";", fgets($fp), 3);
if ($error)
continue;

$whois = base64_decode($whois);

// тут надо выдернуть из раскодированных данных нужные поля и скинуть их в файл
}

fclose($fp);

?>
[Удален]
#37
С яндексом вообще беда, банят прокси повально просто...... Еще можно отсеивать забаненные прокси прямо на этапе их проверки, для этого необходимо переписать настройки в теге <check> таким образом, чтобы там вместо гугла использовался яндекс с проверкой на бан.

Да, хорошая идея должно сработать, только у меня представления о работе прокси не то что поверхностные - нулевые...

Подскажите на что например можно заменить

<check server="google.com" port="80" send="GET / HTTP/1.1\r\nHost: www.google.com\r\nConnection: close\r\n\r\n" recv="/Server\:\sgws/i"/>
- наверное надо на что то не особо тривиальное что не используют обычно другие всякие там конторы и веб оптимизаторы которые забивают яндекс запросами по своим рабочим целям.

И еще любопытно, если в процессе работы программы через прокси эти прокси (рабочие) закончились, что программа будет делать? проверять без прокси? ждать когда прокси разбанятся? или просто остановится?

M
На сайте с 09.02.2008
Offline
68
mlu
#38
Aндрeй:
Подскажите на что например можно заменить

Отвечу в лс/аську 8)

Aндрeй:
И еще любопытно, если в процессе работы программы через прокси эти прокси (рабочие) закончились, что программа будет делать? проверять без прокси? ждать когда прокси разбанятся? или просто остановится?

Программа не остановится и не будет проверять напрямую, она просто будет ждать, пока появятся рабочие прокси :) Ведь она их периодически скачивает, вдруг что новое рабочее появится. Плюс самому можно залить прокси через HTTP-запрос, на пхп примеры есть в директории examples

W
На сайте с 10.01.2010
Offline
38
#39

Тестировал прогу несколько дней, результатами остался очень доволен. Особо радует скорость работы и простота настроек. Автор до воли адекватен и приятен в общении, все терпеливо показал и рассказал. Рекомендую!!!

spambot
На сайте с 12.12.2008
Offline
55
#40

Единственный недостаток программы отсутствие удобного гуи, а так свои функции выполняет на все 100%.

Every time you attempt to parse HTML with regular expressions, the unholy child weeps the blood of virgins, and Russian hackers pwn your webapp. (http://stackoverflow.com/questions/1732348/regex-match-open-tags-except-xhtml-self-contained-tags/1732454#1732454)

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий