собрать sitemap

Р
На сайте с 29.06.2012
Offline
66
1133

Есть сайт на ~300к страниц.

Как/чем собрать все адреса страниц в единый sitemap.html ?

Точнее лучше наверное разбить сайтмап на несколько файликов, ибо одним файлом он будет слишком большой.

Помогите плиз. Заранее благодарен.

BlagFurer
На сайте с 09.12.2009
Offline
79
#1

Можно попробовать парсером Алаева. Зависит от ресурсов ПК.

Файл придется разбить аж на 6 частей и создать индексный файл

http://www.sitemaps.org/ru/protocol.html#index

Sitemap штука динамическая. Сделать его один раз и забыть не получится. Соответственно лучше всего, если двиг сам будет формировать список своих же URL... ну ему виднее должно быть сколько у него страниц, чем любому из парсеров.

FS
На сайте с 08.03.2011
Offline
91
#2
Рагожин:
Есть сайт на ~300к страниц.
Как/чем собрать все адреса страниц в единый sitemap.html ?
Точнее лучше наверное разбить сайтмап на несколько файликов, ибо одним файлом он будет слишком большой.
Помогите плиз. Заранее благодарен.

Можно сделать с помощью программы "Sitemap Writer Pro", например, но зачем изобретать велосипед, да и какой смысл от такой карты, если ластмодифайт там обновляться не будет? Лучше закажите у программиста скрипт, который будет генерировать карту сайта и обновлять ластмодифайт при каждом изменении страницы.

Р
На сайте с 29.06.2012
Offline
66
#3

Демо-версия этого парсера парсит всего 150 страниц( А покупать лицензию за 2к из-за одного только сайта слишком накладно. Нет ли каких-нибудь более бюджетных вариантов? В идеале бесплатных😂

Fringer
На сайте с 19.09.2012
Offline
82
#4

парсим сайт прогой screaming frog seo spider, удаляем левые страницы, урлы с параметрами, а потом оставшиеся ссылки загружаем в любой онлайновый сервис генерации сайтмап.

BlagFurer
На сайте с 09.12.2009
Offline
79
#5
Fringer:
парсим сайт прогой screaming frog seo spider, удаляем левые страницы, урлы с параметрами, а потом оставшиеся ссылки загружаем в любой онлайновый сервис генерации сайтмап.

Когда количество страничек перевалит через 100 000 вы удивитесь как упадет скорость этого парсера, даже если отдадите ему все свои 16 гигов оперативы. А потом он начнет выдавать ошибки, что мол памяти нема и проблема будет уже не в железе.

При нынешнем курсе фунта я платил и плакал. Платил и плакал. 12000 рублей на год у SreaminFrog против 2000 руб навечно у Алаева.

S
На сайте с 23.08.2014
Offline
11
#6

BlagFurer, пробовал ставить java 64 bit и править ини файл с настройками?

Сканировал до 200к - не заметил проблем.

orphelin
На сайте с 02.07.2006
Offline
261
#7

а этот скрипт никто не пробовал https://www.xml-sitemaps.com/standalone-google-sitemap-generator.html ? думал как раз над покупкой

Р
На сайте с 29.06.2012
Offline
66
#8

Спасибо товарищу Fish_su! Прога собрала все странички еще и на несколько частей есть возможность разбить. Правда процесс сбора занял около суток😂

P
На сайте с 08.02.2016
Offline
23
#9

правильно будет так, как сказано в #2 посте

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий