Netpeak Spider - бесплатная программа для сканирования сайта

St.One
На сайте с 03.03.2008
Offline
118
#201

Столкнулся с проблемой сканирования больших сайтов.

Скорость просто черепашья((( при чем видно что Spider сам ее занижает.

Сканируем 0,5 млн страниц, вторые сутки и только 10%

Надо проработать данный момент.

А так все нравится

Здесь Индивидуальные прокси (http://www.primeproxy.net/)
Wise.od
На сайте с 20.10.2006
Offline
101
#202
St.One:
Столкнулся с проблемой сканирования больших сайтов.
Скорость просто черепашья((( при чем видно что Spider сам ее занижает.

Сканируем 0,5 млн страниц, вторые сутки и только 10%
Надо проработать данный момент.

А так все нравится

Смотрите, Netpeak Spider ничего специально не занижает :) Я буквально неделю назад сканировал 250 тысяч страниц – был достаточно хороший сервер с быстрым временем ответа и все страницы просканировались за 4 часа настройками сканирования по умолчанию.

Если не секрет:

1. Киньте адрес сайта: разберёмся, что у вас там не так!

2. Киньте свою конфигурацию компьютера: нужны минимальные данные типа количества оперативной памяти (RAM) и по процессору (поколение, частота, количество ядер).

Пользователи иногда ругают Spider за такие штуки, но потом оказывается, что сервер на запрос 1 страницы отвечает 25 секунд. Вот и думайте, когда просканируются ваши 0.5 млн страниц 🙅

St.One
На сайте с 03.03.2008
Offline
118
#203
Wise.od:
Смотрите, Netpeak Spider ничего специально не занижает :) Я буквально неделю назад сканировал 250 тысяч страниц – был достаточно хороший сервер с быстрым временем ответа и все страницы просканировались за 4 часа настройками сканирования по умолчанию.

Если не секрет:
1. Киньте адрес сайта: разберёмся, что у вас там не так!
2. Киньте свою конфигурацию компьютера: нужны минимальные данные типа количества оперативной памяти (RAM) и по процессору (поколение, частота, количество ядер).

Пользователи иногда ругают Spider за такие штуки, но потом оказывается, что сервер на запрос 1 страницы отвечает 25 секунд. Вот и думайте, когда просканируются ваши 0.5 млн страниц 🙅

Стоит на выделенном сервере:

Core i7-3770 3,4 ghz

32GB ОЗУ

Windows Server

Сайт в личку скинул.

Wise.od
На сайте с 20.10.2006
Offline
101
#204
St.One:
Стоит на выделенном сервере:
Core i7-3770 3,4 ghz
32GB ОЗУ
Windows Server

Сайт в личку скинул.

Отлично, сейчас будем разбираться!) Жду ответа в личке ;)

Chained
На сайте с 10.01.2013
Offline
92
#205

Чёт не запускается новый спайдер у меня, при этом старый работает нормально. Хорошо, что я его не удалил. Хоть один рабочий остался.

Wise.od
На сайте с 20.10.2006
Offline
101
#206
Chained:
Чёт не запускается новый спайдер у меня, при этом старый работает нормально. Хорошо, что я его не удалил. Хоть один рабочий остался.

Сейчас проблема с сервером аутентификации. Скоро решим!)

Спасибо за наводку ;)

---------- Добавлено 26.09.2017 в 11:33 ----------

Решили ☝

Ш
На сайте с 18.04.2015
Offline
18
#207

И (в следствие решения?) первый спайдер перестал запускаться?..

Wise.od
На сайте с 20.10.2006
Offline
101
#208
Шопо:
И (в следствие решения?) первый спайдер перестал запускаться?..

Ну что вы? Одна связка программ не касается другой связки.

Только что перепроверил – старые версии программ 1.x запускаются и работают, как мы и обещали. Вы не сможете воспользоваться ими только в двух случаях:

1. Если вы никогда ими ранее не пользовались (т.е. не были уже зарегистрированы в них, пока не вышли версии 2+).

2. Вы переустановили систему или поменяли компьютер и у вас нет доступа к тому email, на который была зарегистрирована программа (т.е. вы не сможете получить активационный ключ на почту).

В остальных случаях у вас всё должно запускаться стабильно ☝

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий