Domensoft.ru - Открытие нового сервиса

12
R
На сайте с 30.01.2008
Offline
19
52134

На днях был мною открыт новый сервис для определения всевозможных параметров доменов и не только, плюс некоторые функции парсинга поисковой выдачи. Проект будет в будущем пополняться. На данный момент посмотреть и протестировать можно по адресу: http://domensoft.ru/

По вопросам приобретения скриптов так же можно писать (контакты на главной станице).

afonik
На сайте с 20.09.2007
Offline
175
#1

"yandex index" не работает..

Микроразметка.ру (http://mikrorazmetka.ru/)
R
На сайте с 30.01.2008
Offline
19
#2

Индекс Яндекса может не работать по вине самого Яндекса, ибо они эту фишку включают и отключают когда им заблагорассудится.

afonik
На сайте с 20.09.2007
Offline
175
#3
Rivvin:
Индекс Яндекса может не работать по вине самого Яндекса, ибо они эту фишку включают и отключают когда им заблагорассудится.

так сделайте кнопку "Проверить индекс": http://yandex.ru/yandsearch?surl=domen.ru&pag=u&numdoc=50&rd=0

X
На сайте с 22.03.2008
Offline
54
#4

реализован ли скрипте работа через прокси?

каким образом идет коннект к поисковикам? через курл?

спрашиваю, потому что несколько дней ковыряю, и обнаружил что гугл тулбарс блокирует ип через 3000-4000 запросов, сам сам гугл поиск через 2000-2500, яндекс через 5000-6000 запросов. я сам решил проблему, раскидав скрипти на разные хостинги. но если через прокси, будет медленно, но бана ип не будет.

R
На сайте с 30.01.2008
Offline
19
#5

Учтем пожелание. А вообще - дело не Яндексе. Я уже проверил - мне хостер ип сменил (а индекс яндекса через xml реализован), надо выделенный покупать, тогда все будет, так как новый ип моего сайта занят:(

Rivvin добавил 12.08.2008 в 19:17

Скрипт реализован не через прокси, если можете помочь в реализации работы с проксями - не откажусь от помощи.

X
На сайте с 22.03.2008
Offline
54
#6

сам ковиряюс уже несколько дней.

идею использовать курл вместо file_get_contents.

там вроде можно прокси прописать.

и есть делать скрпит, на который загружаешь текстовый список файлов, потом можно закрывать брузер, а скрипт после проверки отправляет на почку или пишет на файл на сервера. Но пока успехов не каких. Пока ползуюс этим:

http://thatvilla.com/rental_images/yahoo.php

можно поставит список состоящий из пара тысяч, скрипт проверяет на пр, если пр>=2 проверяет на склейку, потом тиц >=10 выводит на экран. Начале поставил и проверку за занятности домена, но это очень тормозила работу скрипта. На занятность можно использовать этот скрипт:

http://mattjewell.com/namepros/dnlookup/index.php

Rivvin,

R
На сайте с 30.01.2008
Offline
19
#7

Хм. Возможность загрузить список на сервер для проверки наверное можно реализовать. Прокси тоже. Буду думать над этим на выходных.

B
На сайте с 14.07.2008
Offline
40
#8

Для коннекта через прокси можно использовать вот такую простенькую функцию - пользуйтесь на здоровье:


function mybot($url,$user_agent="Mozilla/4.0 (compatible; MSIE 5.01; Windows NT 5.0)")
{
// получим контент
$ch = curl_init(); // initialize curl handle
// массив прокси - тут надо свежие писать и рабочие. Можно сделать передачу переменной этой
// в функцию - тут на Ваше усмотрение
$proxy[]="72.32.17.58:80";
$proxy[]="90.153.139.13:80";
$proxy[]="195.116.60.1:3124";
$count_mas = count($proxy)-1;
// выбираем произвольный прокси из списка
$i = rand(0,$count_mas);
// устанавливаем опцию работы через прокси
curl_setopt($ch, CURLOPT_PROXY, $proxy[$i]);

curl_setopt($ch, CURLOPT_URL, $url); // set url to post to
curl_setopt($ch, CURLOPT_FAILONERROR, 1); // Fail on errors
curl_setopt($ch, CURLOPT_RETURNTRANSFER,1); // return into a variable
curl_setopt($ch, CURLOPT_TIMEOUT, 15); // times out after 15s
curl_setopt($ch, CURLOPT_USERAGENT, $user_agent);
$document = curl_exec($ch);
curl_close($ch);
return $document;
}

Функция возвращает запрошенную страничку.

Юзаю ее для тягания тИЦа и ПР из тулбара.

Также ПР определяю по разным датацентрам, чтобы не было проблем с баном IP при большом кол-ве запросов (каждый датацентр банит по отдельности).

Сразу оговорюсь (чтобы не было обвинений) - прототип функции был найден на каком-то форуме - я ее модифицировал под свои цели.

Если пригодится - принимаю благодарности в репу 🙄

M
На сайте с 28.02.2006
Offline
224
#9

А мне вот этот нравится :) Правда он пакетно не проверяет.

R
На сайте с 30.01.2008
Offline
19
#10

Ну что могу сказать, данные скрипты для разных нужд. Если у меня они используются для массовой проверки основных параметров, то в приведенном Вами скрипте проверяются всевозможные параметры, но лишь для одного сайта.

Rivvin добавил 13.08.2008 в 18:15

Кстати, если кто решит купить рекламное место под ссылку на Ваш тематический (нетематические идут мимо) ресурс - милости прошу в аську: 9876-три43

12

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий