Как бесплатно и быстро собрать ответ сервера для 10к url?

L
На сайте с 14.01.2011
Offline
90
404

Здравствуйте! 

Вопрос в Теме. Спасибо.

skapunker
На сайте с 15.01.2014
Offline
217
#1
сделать самому простенький парсер
poruchick
На сайте с 13.08.2007
Offline
170
#2
Ну, если сайт имеет sitemap, то, собственно, в чём проблема? Только стоит учитывать, что подобный интерес к чужому сайту может потребовать прокси или длительного таймаута между парсингом блоков url.
Остатки доменов по бросовым ценам - www.reg.ru/domain/shop/lots-by-seller/635847
L
На сайте с 14.01.2011
Offline
90
#3
skapunker #:
сделать самому простенький парсер

Не силен в коде. Можете помочь?

L
На сайте с 14.01.2011
Offline
90
#4
poruchick #:
Ну, если сайт имеет sitemap, то, собственно, в чём проблема? Только стоит учитывать, что подобный интерес к чужому сайту может потребовать прокси или длительного таймаута между парсингом блоков url.

Каким образом это можно сделать через sitemap? Правильно я понимаю, что если это мой сайт я просто через вебмастерс гружу карту сайта и в скором времени получаю ответы страниц? А если это не мой сайт, то как мне карта сайта поможет?

igor3310
На сайте с 27.02.2011
Offline
138
#5
luserz #:

Каким образом это можно сделать через sitemap? Правильно я понимаю, что если это мой сайт я просто через вебмастерс гружу карту сайта и в скором времени получаю ответы страниц? А если это не мой сайт, то как мне карта сайта поможет?

Чужую сайтмап можно тоже грузить - смотрите УРЛ ее в robots.txt

Веб разработка WordPress, OpenCart, Modx Revo и прочее - https://searchengines.guru/ru/forum/1040224
Devvver
На сайте с 02.07.2008
Offline
666
#6
Если я правильно понял суть вопроса 
SiteAnalyzer - бесплатная программа для аудита и анализа сайта - Сервисы и программы для работы с SE - Практические вопросы оптимизации - Форум об интернет-маркетинге
SiteAnalyzer - бесплатная программа для аудита и анализа сайта - Сервисы и программы для работы с SE - Практические вопросы оптимизации - Форум об интернет-маркетинге
  • 2021.01.05
  • searchengines.guru
Уважаемые коллеги! После долгого затишья хочу сообщить о возобновлении разработки программы Majento SiteAnalyzer , которая предназначена для...
Мой блог. Все о создании сайтов,Seo и СДЛ ( https://devvver.ru/ ) Мой SEO телеграм канал https://t.me/seobloggers
L
На сайте с 14.01.2011
Offline
90
#7
igor3310 #:

Чужую сайтмап можно тоже грузить - смотрите УРЛ ее в robots.txt

Я понимаю, что ее можно взять, а дальше что мне с ней делать? Там есть loc и  lastmod и больше ничего. Я не понимаю как мне добыть из нее ответ сервера? Или вы имеете ввиду загрузить чужой сайтмеп в своем вебмастерсе? А он не будет ругаться на то, что домен не мой?

L
На сайте с 14.01.2011
Offline
90
#8
Devvver #:
Если я правильно понял суть вопроса 

Идеальный вариант.) Спасибо огромное.

igor3310
На сайте с 27.02.2011
Offline
138
#9
luserz #:

Я понимаю, что ее можно взять, а дальше что мне с ней делать? Там есть loc и  lastmod и больше ничего. Я не понимаю как мне добыть из нее ответ сервера? Или вы имеете ввиду загрузить чужой сайтмеп в своем вебмастерсе? А он не будет ругаться на то, что домен не мой?

Программой проверить ответ сервера , прога типа как вложили на пост выше

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий