Думаю ожидаемый вопрос: какие преимущества над HTracer? Ну кроме цены конечно :)
Точный список получить практически не реально. Если сайт маленький (до 1000 страниц), то проблем нет, а вот если больше... Если у вас сайт с хорошей структурой, вида domain.ru/category1/, domain.ru/category2/ и все страницы соответствую это иерархии, то можно попробовать пробить через выдачу по конкретным разделам:
site:domain.ru/category1/
site:domain.ru/category2/
P.S. яша хоть 1000 страниц отдает, с гуглом вообще беда :(
Можете пример запроса показать, по которому продолжают висеть?
Я проводил аналогичный эксперимент, эксперементальный сайт у меня сайт даже в индекс гугла не попал.
А если бы было 200, или 2000? Ведь по идее должны быть четкие границы, до стольки-то не взрыв, после стольки-то взрыв. Вот только похоже мало кому эти границы не известны.
Так ливер же сливает (ну или раньше сливл) инфу яндексу. Да и толку от ливера в нынешних условиях не густо, учитывая шифрование данных.
Не понял, а что даст, если счетчик будет из отдельного файла грузиться?
База Пастухова давно есть в паблике, при желании можно найти без проблем. Но она на сегодняшний день не самая полная далеко. В базе Пастухова 1мллрд ключей, у меня например стоит база Amazing, там 1.48 млрд, а есть еще UP-base, в которой 2,2 млрд ключей, но ее я не юзал. Для сравнения недавно делал выборку из баз, вышло:
Пастухов - 275256 ключа
AmazingDatabases - 352183 ключа
Выборка из обеих баз - 359931 ключ
Всё будет, наберитесь терпения :)
Так если вы для поддоменов пропишите host:www.основной_сайт.ру, то поддомены из индекса выпадут, в чём смысл тогда их создавать?