Xenu's Link Sleuth? Оно?
Вот и Платончег проснулся:
http://platon.ya.ru/replies.xml?item_no=1822
😂
Key Collector нужен для подбора запросов. Сейчас это, фактически, единственный подобный полноценный софт.
CS Yazzle нужен для анализа выдачи, ссылок и т.п.
Эти программы просто для разных целей.
http://wordpress.org/extend/plugins/search.php?q=forum+crosspost
Не обязательно всё хранить в памяти. При большом количестве запросов, их можно хранить на диске, а в память подгружать только тот кусок, который на экране у пользователя. Фактически, проект будет состоять из частей (страниц), а визуально отображаться, как сейчас (единым списком).
Плохо. Зачем это нужно?
Нет.
..................
Disallow: /*?