Давайте рассуждать здраво.
10к+ = крупный сайт, портал, форум.
Значит контент там весьма активно (теоретически) генерируется и новые страницы должны активно появляться. Карту надо частенько создавать, чтобы актуальность поддерживать.
Второе:
Сайт большой - значит база большая, бот будет грузить по полной, в данной ситуации гораздо лучше все стандартный функционал задействовать, чтобы минимизировать нагрузку.
Третье:
Не вижу вообще никаких проблем, что 10 страниц, чтобы 100к страниц, БД буде чуть больше просто... потом все равно всё удалиться.
Четвертое:
Данное решение было создано, потому что надо было мелким сайтам быстро сделать карту сайта, стандартные генераторы не подходят, потому что в ограничения не вписались, гуглеж адекватных скриптов не выдал,..
Вот написал, теперь что добру продавать - можно ведь и людЯм раздать )
Тут я бы поспорил немного...
Предположим пошел спрос на халяву, нагрузка растет весьма неплохо, на обычном хостинге такое не разместишь и всегда есть некая группа лиц, которые захотят на чужом бесплатном заработать, потому по-другому как надо сделать, пока не знаю.
Пользуясь случаем хочу передать привет маме
Тоже, может кому пригодиться, для таких параноиков как я сделал )
Я уже тут выкладывал как-то скрипт, который проверяет на запрет в robots.txt
Так что не стоит думать, что это сложная задача сделать правильную карту сайт.
foxi, бывают ситуации когда вариантов нету, потому не стоит срач на эту тему разводить, если бы все так просто было, тогда бы указанного сервиса и подобных не существовало бы!
По сабжу - карта сайта вещь весьма полезная, это базовые основы.
Ну так надо больше сайтов, чтобы стата была.
+ разные схемы создания сайтов, искать ту, которая дает траф.
Быстроробот стреляет периодически, надо количеством брать.
Частенько именно так и происходит )
Если загнать быстроробота на сайт (а это совсем не сложно), то и траф можно отжимать.
на копипасте все живет чудесно.
инферно...
Желательно разные
Что-то за полгода совсем не видно отзывов...
Попробуйте сформулировать изначальную задачу.
Уверен на 100%, что есть более простое решение.