Сервис по сбору непроиндексированных страниц сайта

12
Flexpk
На сайте с 30.11.2011
Offline
60
1343

Необходимо собрать проиндексированные и непроиндексированные страницы с сайта в Яндексе или просто проверить на то же самое уже имеющийся список страниц. Руками - не вариант, так как сайт большой. Какой бы сервис вы порекомендовали?

Maxim-KL
На сайте с 26.01.2011
Offline
350
#1

Flexpk, Зачем сервис...? YCCY вам в помощь, главное дайте ей список урлов а она уже определит какие в индексе а какие нет.

Мои услуги по прогонам: ✅Качественный ручной статейный прогон по базе сайтов с ИКС10+ (maximgroups.net/progon-statejnyj) ✅Прогон Максимум - Все включено, 300+ качественных ссылок (maximgroups.net/progon-maksimum)
nn165m
На сайте с 05.08.2012
Offline
234
#2

Netpeak Spider или xenu парсите сайт а потом уже через YCCY проверяете

Хостинг от 115р./мес./самые адекватные саппорты:) ( http://beget.ru/?id=34668 ) Проверка ссылок огонь пушка как помогает:) ( https://checktrust.ru/r/979 )
Flexpk
На сайте с 30.11.2011
Offline
60
#3
Maxim-KL:
Flexpk, Зачем сервис...? YCCY вам в помощь, главное дайте ей список урлов а она уже определит какие в индексе а какие нет.

Он IP не банит? У меня 30к страниц, пишет - осталось 50 часов. yccy обновлялся последний раз в 2013 году.

Неужели нет ничего побыстрее, хотя б платного?

Пользовался до этого Comparser`ом от Алаева - всё было норм до недавнего времени. Он брал данные из Вебмастера, пока Яндекс не ужесточил лимит проверки.

---------- Добавлено 20.07.2015 в 17:56 ----------

Есть альтернатива YCCY?

A
На сайте с 02.03.2011
Offline
52
#4

В сайтрепорте есть такой отчет. Достоверность его не проверял так как смотрел только на демо аккаунте. Но для 30000 страниц - ценник просто ради проверки индексации выйдет заоблачный. А если вообще регулярно проверять то разориться можно.

И еще дополню. Нашел на просторах рунета http://parser.alaev.info/ честно скажу сам не устанавливал и не тестировал, как доберусь до большого компа - попробую, но по описанию вроде подходит.

TOBBOT
На сайте с 04.11.2014
Offline
41
#5

Если есть список урлов, то попробуйте TOBBOT с модулем SE Index Checker (проверка индексации страниц / доменов в Bing, Google и Яндекс).

Для проверки 30к также понадобятся SOCKS прокси.

Инструменты интернет-маркетинга - JLAB (http://jlab.io/) Бесплатная автоматизация с программой TOBBOT (http://tobbot.com/)
-S
На сайте с 10.12.2006
Offline
1356
#6
Flexpk:
Он IP не банит? У меня 30к страниц

Ага, если бы так все было просто. Проще выгрузить из вебмастера проиндексированные и скриптом исключить их из полного списка страниц сайта.

Flexpk
На сайте с 30.11.2011
Offline
60
#7
askkt:
И еще дополню. Нашел на просторах рунета http://parser.alaev.info/ честно скажу сам не устанавливал и не тестировал, как доберусь до большого компа - попробую, но по описанию вроде подходит.

Как раз этим парсером работал до тех пор, пока Яндекс не стал блочить аккаунты вебмастера за частое обращение к нему. Писал об этом в 4ом посте.

Сайтрепорт посмотрю, спасибо.

---------- Добавлено 21.07.2015 в 09:52 ----------

-= Serafim =-:
Ага, если бы так все было просто. Проще выгрузить из вебмастера проиндексированные и скриптом исключить их из полного списка страниц сайта.

Хорошая идея, кстати. Но выгрузить список всех страниц можно только из нового вебмастера, а там страшные глюки сейчас - всего 2 страницы в индексе пишет, а в реале около 10к.

---------- Добавлено 21.07.2015 в 09:56 ----------

Maxim-KL:
Flexpk, Зачем сервис...? YCCY вам в помощь, главное дайте ей список урлов а она уже определит какие в индексе а какие нет.

За ночь проверилось только треть всего сайта (10к урлов) и все оказались не в индексе - стопудово, что так быть не может. Случайность? Не думаю :) Совсем не вызывает доверия у меня эта программа.

W
На сайте с 13.09.2013
Offline
122
#8

Пользуюсь Netpeak Spider для скана страниц и RDS API для чека на индексацию. Приходится платить, но удобнее пока ничего не нашел

[mAveRik]
На сайте с 09.11.2006
Offline
124
#9
-= Serafim =-:
Проще выгрузить из вебмастера проиндексированные и скриптом исключить их из полного списка страниц сайта.

По API ограничение на 100 страниц. Или есть другие способы?

Продвигаю сайты, консультирую, 7 лет опыта, двигал крупные ecommerce (/ru/forum/994817)
Злобный Гыук
На сайте с 30.08.2007
Offline
83
#10
SEO-api для программистов (/ru/forum/869285)
12

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий