Xenu Links и forbidden request

Zloy_Gaf
На сайте с 23.08.2007
Offline
43
1639

Привет, ребята!

У меня сайт плохо индексируется...

Стал разбираться почему. Познакомился вот с программой (сабж). Классная вообще програмулина, бодро бегает по сайтам! Но вот по этому - никак.

Сразу с главной она пишет: forbidden request, т.е. запрещено запросу.

Я думал. =D

Приказал браузеру не брать куки вообще. Заходит. Страница показывается.

Проверял http заголовки, вроде ок.

С robots.txt это вряд ли связано. Пока теряюсь в догадках.

Т.е. Пока не понятно что да как, но тема встречается не только у меня. Ругаться на программу пока не думаю. По другим сайтам бегает хорошо.

Вопрос: где копать? Почему может затыкаться программа и может быть такой же затык у роботов?

Странно что в вебмастере 0 страниц в индексе, но на самом деле он кое где встречается по запросам. С чем это может быть связано подскажите!

Старый, добрый, родной: delchat.ru (http://delchat.ru/) почти пустой ;)
Garin33
На сайте с 31.08.2009
Offline
169
#1

Проверьте вручную кол-во страниц в поиске запросом site:domain.com, вебмастер может показывать не точные данные, или вообще глючить.

В панелях как гугла, так и яндекса можно ошибки просмотреть - если что-то не так на сайте, то там это будет видно. А Ксенус может отдавать ошибки совсем по другим причинам, к примеру, блокироваться хостером по юзер агенту, или создавать много одновременных подключений, и тоже блокироваться хостером по этой причине. Можно попробовать уменьшить кол-во потоков до 1-3.

Потому что Drupal - это круто.
Zloy_Gaf
На сайте с 23.08.2007
Offline
43
#2

Спасибо за быстрый и компетентный ответ!

Гугл неплохо индексирует сайт. А вот яндекс-вебмастер действительно глючит. И мне кажется какраз по той же причине, по которой я не могу запустить Xenu...

Garin33
На сайте с 31.08.2009
Offline
169
#3

А что именно пишет яндекс? Вот здесь http://webmaster.yandex.ru/server-response.xml можно посмотреть как роботы яндекса видят сайт. И вот тут хороший сервис http://www.bertal.ru/index.php

R
На сайте с 21.12.2010
Offline
138
#4

Если джумла, копайте в sh404SEF, если VPS|VSD аналогичная проблема была с настройками ngnix

Лучший хостинг для MODX Все просто ЛЕТАЕТ! (https://modhost.pro/?msfrom=bd6e3e1124cb4cdd93779563b690f3fe)

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий