CheckParams - массовая проверка параметров доменов и ссылок

M
На сайте с 09.02.2008
Offline
68
mlu
#41

Спасибо всем за отзывы и тут и в аське, с ними программа становится еще лучше :)

Она, наконец-то, переехала на свой собственный домен: http://checkparams.com/

Ну и, конечно, немного обновилась:

* в статистике теперь указывается "***NOT USING PROXIES***" для модулей, у которых выключена проверка через прокси. Некоторые жаловались на постоянные забанивания, оказалось, что забывают включать проверку через прокси :)

* появились 2 новых ссылки в модуле управления программой посредством HTTP, одна ссылка заставляет программу заново скачать все ссылки с прокси-листами, другая ссылка позволяет добавлять источники с новыми прокси-листами прямо в ходе работы программы.

* появилась возможность сохранять в отдельный файл те ссылки, у которых хотя-бы 1 параметр не был успешно проверен. Теперь их можно заново проверить с минимальными усилиями.

Subudayj
На сайте с 24.06.2008
Offline
67
#42

Скачал сегодня программу, автор очень оперативно выслал ключ и ответил на все вопросы.

Очень радует скорость работы (использую для проверки PR), а также проверка прокси, которая постоянно работает в фоновом режиме, и полученные результаты сразу же используются для текущих запросов.

Желаю проекту дальнейшего развития!

Quo vadis?
[Удален]
#43
mlu:

Ну и, конечно, немного обновилась:

чтоб обновить версию нужно просто все файлы заменить на новые кроме checkparams.xml ?

checkparams.xml c настройками можно не трогать?

M
На сайте с 09.02.2008
Offline
68
mlu
#44
Aндрeй:
чтоб обновить версию нужно просто все файлы заменить на новые кроме checkparams.xml ?
checkparams.xml c настройками можно не трогать?

Пока достаточно заменить экзешник. В checkparams.xml появляются новые параметры, но пока еще всегда соблюдалась обратная совместимость, т.е. новая программа работала со старым конфигом.

Конретно в этой версии (1.102) добавился параметр skip_failed_results="0" в теге <results> и добавился тег <failed_results enabled="0" filename="results_failed.csv" reset_on_start="1"/>. Их можно руками добавить в те же места в своём старом конфиге.

По умолчанию (если настройки отсутствуют в конфиге) программа использует те параметры, которые были в дефолтном конфиге :)

fgscorp
На сайте с 09.02.2011
Offline
50
#45

Спасибо за ключ

[Удален]
#46

Заметил что эта и другие подобные проги не всегда точно, а порой совсем неточно определяют количество страниц в индексе яндекса по доменам.

вот например:

jeep-tours.ru 1208 2263

vsng.ru 797 1591

kidtravels.ru 462 916

fo-od4sport.ru 1404 3147

smikgroop.ru 1588 0

v-kurce.ru 285 720

ahbt.ru 392 731

первая цифра это то что выдала прога, а вторая то что показывает яндекс если ручками через расширенный поиск искать на конкретном сайте

кореляция есть но есть и расхождения бывает большие как например smikgroop.ru 1588 и 0 соответственно.

прога использует запрос

http://yandex.ru/yandsearch?serverurl=vsng.ru&lr=0

яндекс

http://yandex.ru/search/advanced?site=vsng.ru&text=

или

http://yandex.ru/yandsearch?date=&text=&site=vsng.ru&rstr=&zone=all&wordforms=all&lang=all&within=0&from_day=&from_month=&from_year=&to_day=&to_month=&to_year=&mime=all&numdoc=10&lr=213

никак нельзя сделать чтоб точно показывала программа?

M
На сайте с 09.02.2008
Offline
68
mlu
#47
Aндрeй:
Заметил что эта и другие подобные проги не всегда точно, а порой совсем неточно определяют количество страниц в индексе яндекса по доменам.
прога использует запрос
http://yandex.ru/yandsearch?serverurl=vsng.ru&lr=0
яндекс
http://yandex.ru/search/advanced?site=vsng.ru&text=
или
http://yandex.ru/yandsearch?date=&text=&site=vsng.ru&rstr=&zone=all&wordforms=all&lang=all&within=0&from_day=&from_month=&from_year=&to_day=&to_month=&to_year=&mime=all&numdoc=10&lr=213
никак нельзя сделать чтоб точно показывала программа?

Проблема в том, что каждый "меряет" разными способами, с разными регионами, при этом делает это с разных айпи и попадает на разные физические сервера Яндекса. Иногда некоторые даже умудряются попасть в "междуапье", запуская программу вчера, а руками проверяя завтра. Отсюда и разные результаты.

В некоторых простых случаях (когда не меняется кардинально формат выдачи) можно использовать другие запросы (например, указать другой регион и т.д.), именно для этого в программе и предоставлена возможность каждый запрос руками изменить.

Пользуясь случаем, хочу отметить, что с последним обновлением программа научилась понимать свои же файлы с результатами в качестве файлов, в которых хранятся исходные ссылки для проверки. Т.е. теперь можно к уже готовым результатам проверок (например, на ТИЦ) дописывать другие результаты (например, ПР) прямо в программе без использования скриптов, экселев и прочих страшных вещей.

Надеюсь, что скоро появится поддержка встраиваемых в программу скриптов (javascript, вероятнее всего, или Lua, чтобы окончательно избавиться от потенциальных юзеров :)) ), с ними вообще можно будет творить чудеса :)

Так же на сайте (http://checkparams.com/config) появился раскрашенный конфиг программы, некоторые выпрыгивали в окно от одного только вида конфига, открытого в notepad.exe :)

J-moris
На сайте с 08.06.2010
Offline
45
#48

поражен функционалом и скоростью работы этой программы..

заказывал за многа денег подобную, щас понимаю что зря это делал :)

ТС быстро дал ключик, помог разобраться с настройкой программы :)

в общем ничего сложного.

респект автору за отличную программу :)

M
На сайте с 09.02.2008
Offline
68
mlu
#49

Спасибо всем за отзывы :)

Обновилась программа: теперь можно отсеять очень медленные прокси еще на этапе проверки + появилось автоопределение типа прокси, теперь можно подсунуть в одном списке прокси всех типов одновременно и указать type="auto" в настройках, программа сама разберётся где, что и куда :)

http://checkparams.com/

M
На сайте с 09.02.2008
Offline
68
mlu
#50

Здравствуйте, в программе появилась полноценная поддержка скриптов.

Используется движок ActiveScripting, позволяющий подключить множество языков программирования.

Пока из коробки программа самостоятельно умеет JavaScript и VBScript, без особых проблем можно использовать Perl, установив ActivePerl. Так же можно попытаться использовать PHP (библиотека php5activescript.dll перестала поставляться вместе с дистрибутивом PHP начиная с 5 версии, но "в интернетах" можно найти скомпилированные варианты, которые, к сожалению, не везде правильно работают). Список языков довольно обширен и доступен по вышеприведённой ссылке на википедию.

Схема работы устроена таким образом, что скачанная страница (со всеми заголовками) передаётся в функцию из скрипта, где она может быть любым удобным образом распаршена.

Т.о. открываются просто уникальные возможности по проверке параметров ссылок и их парсингу.

Например, можно сделать скрипт, который автоматом обходит все страницы заданных сайтов и проверяет каждую страницу на PR, индексацию и так далее. Можно записывать результаты работы прямо в базы данных, например MySQL. Можно самостоятельно создавать файлы результатов ровно в том формате, который необходим.

Ввиду сырости технологии и отсутствия полноценной документации, checkparams с поддержкой скриптов пока временно недоступен публично. Но, если у вас есть хорошие знания JScript или Perl (а при небольшом везении подойдёт и знание PHP), то я дам дистрибутив для бета-тестов.

Обращайтесь в аську или мыло саппорт собачка чекпарамс точка ком :)

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий