[linux] скрипт для сбора информации о домене/ip

12
J
На сайте с 28.03.2010
Offline
21
#11
Romka_Kharkov:
Если вас интересует процесс, то я легко вам его изложу, берете, генерируете все возможное кол-во доменов в одну базу, а следом начинаете в цикле подключаться на 80й порт сервера телнетом и путем GET пробуете получить правильный ответ

и через несколько секунд получаю бан фаерволом сервера :)

Romka_Kharkov:

в процессе штатных запросов тех же поисковых ботов, они просто запоминают на ком IP был сайт.... а дальше это спокойно можно анализировать..... и показывать в виде "сколько на конкретном IP сайтов есть в системе".

именно это и делается, вдобавок можно проверить точность сбора с помощью adns - сверяется текущий ip домена с проверяемым, если совпадают - домен всё еще на том же ip.

By accepting this EULA you are accepting this EULA.
Romka_Kharkov
На сайте с 08.04.2009
Offline
485
#12
jahost:
именно это и делается, вдобавок можно проверить точность сбора с помощью adns - сверяется текущий ip домена с проверяемым, если совпадают - домен всё еще на том же ip.

НЕ забываем о том, что гугл и прочие боты могут не дойти до сайта ;)

Есть около 15.000 ipv4 !!! (http://onyx.net.ua/price.php#ipv4) Качественный хостинг с 2005 года - лучшее клиентам! (http://onyx.net.ua/)
J
На сайте с 28.03.2010
Offline
21
#13

угу, это печально.

собираюсь грабить 1stat.ru для получения более подробной информации о русских(имеющих домен в зонах .ru/.su) хостерах.

есть подобные сервисы для других зон?

J
На сайте с 28.03.2010
Offline
21
#14

по советам bugsmoran (тоже мне насоветовал!) исправил код. изменения:

- полностью убрана работа с файлами, теперь всё хранится в памяти (за исключением сохранения списка собранных доменов в domains.txt).

- убрана одна зависимость: adns. решил вместо adnshost для проверки правильности сбора доменов использовать dig

- разукрасил помощь (опция -h или просто запуск скрипта без параметров)

- теперь можно задавать свои dns-сервера, кроме гугловских и opendns

(но все равно еще в нескольких местах используются определённые dns-сервера, а не заданные. позже изменю)

- добавлена опция -s для сбора заголовков с веб-серверов

(если указать опцию -ss то заголовки выведутся не целиком, а только Server: )

(для вывода заголовков веб-сервер ищется не только на 80 и 8080 портах, а на всех помеченных "http" портах из hto_ports, которые включают в себя веб-серверы cpanel`и, directadmin`а и других панелей)

- при скане портов выводится текущий порт, чтобы не казалось, будто скрипт завис

предложения по исправлению/улучшению кода приветствуются :)

ссылка в первом посте, или сделайте sh hto.sh -u, у кого скрипт уже есть.

12

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий