Непонятки с Robots.tx

12
spanchbob
На сайте с 10.10.2006
Offline
97
1339

Ребята помогите разобраться!

Уже третий раз, после обновления данных, в панели вебмастера на Яндексе. У меня пишит что загружено всего 2 страницы. И есть 2 ошибки.

Смотрю сводку по ошибкам, там пишется что док-ты запрещены к индексации. Как раз именно 2 загруженные страницы - главная страница и ещё одна. Но проблема в том что они не запрещены в Роботсе.

Вот собственно сам Robots.txt :

User-Agent: Yandex

Disallow: /shop/

Disallow: /kupitut.php?my=1&

Disallow: /baner/

Disallow: /geometry/

Disallow: /hmsms/

Disallow: /image/

Disallow: /jpisms/

Disallow: /lib/

Disallow: /libs/

Disallow: /narodsms/

Disallow: /sky/

Disallow: /skyform/

Disallow: /sms/

Disallow: /sms_chat/

Disallow: /smsbox/

Disallow: /smsmusic/

Disallow: /test/

Disallow: /tmp/

Host: smstut.ru

Тоесть запрещены только определённые папки, а главная и другая страницы находятся в корне.

Да и при проверке на Анализаторе Robots.txt показывается все правельно.

Помогите разобраться в чём дело:confused:

Зарание всем спасибо за внимание.

S
На сайте с 28.10.2005
Offline
319
#1

> там пишется что док-ты запрещены к индексации

Как именно пишет? Запрещены в роботсе или просто запрещены?

Походу вас прибанили

S
На сайте с 09.10.2007
Offline
186
#2

может, если роботс генерится - не до конца отдается и какойнить путь вместо /tmp/ превращается в / ?

Удобная панель для доменных имен (http://panel.started.ru/) с массовыми операциями. Индивидуальные цены по запросу.
kimberlit
На сайте с 13.03.2007
Offline
370
#3
spanchbob:
Вот собственно сам Robots.txt
spanchbob:
Да и при проверке на Анализаторе Robots.txt показывается все правельно.

А сам файл на сервере случаем не с большой буквы назван?

ИМХО
На сайте с 05.01.2008
Offline
42
#4

spanchbob, когда я попробовал добавить странички вашего сайта в аддурилку, она начала через раз говорить, что время ожидания истекло, документ не доступен. Попробуйте поискать причину в этом.

С уважением, Константин.
spanchbob
На сайте с 10.10.2006
Offline
97
#5
semenov:
Как именно пишет? Запрещены в роботсе или просто запрещены?
Походу вас прибанили

нажимаем на просмотр ошибок:

kimberlit:
А сам файл на сервере случаем не с большой буквы назван?

нет, на серваке написано с маленькой буквы

ИМХО:
когда я попробовал добавить странички вашего сайта в аддурилку, она начала через раз говорить, что время ожидания истекло, документ не доступен. Попробуйте поискать причину в этом.

А что нужно сделать чтобы поискать причину ?

IS
На сайте с 16.08.2006
Offline
160
#6
spanchbob:

нажимаем на просмотр ошибок:

У меня такая же ситуация на забаненном сайте - как будто у них свой роботс с запретом /

Сам роботс правильный.

S
На сайте с 28.10.2005
Offline
319
#7

На скринах в правом нижнем углу есть ребята, которые вам поточнее ответят, может быть

А так походу бан (я б прибанил)

ИМХО
На сайте с 05.01.2008
Offline
42
#8
ИМХО:
spanchbob, когда я попробовал добавить странички вашего сайта в аддурилку, она начала через раз говорить, что время ожидания истекло, документ не доступен. Попробуйте поискать причину в этом.
spanchbob:

А что нужно сделать чтобы поискать причину ?

Проверить все ли в порядке с хостингом и структурой сайта.

spanchbob
На сайте с 10.10.2006
Offline
97
#9
ИМХО:
Проверить все ли в порядке с хостингом и структурой сайта.

Да с хостом вроде всё нормально, да и структура сайта простейшая, около 100 страниц и все они находятся в корневеке. Все старницы нормально перелинкованы.

ИМХО
На сайте с 05.01.2008
Offline
42
#10
spanchbob:
Да с хостом вроде всё нормально, да и структура сайта простейшая, около 100 страниц и все они находятся в корневеке. Все старницы нормально перелинкованы.

Возможно все же не все нормально. Проверил ваш сайт роботом-краулером, часть страниц он обозначил как 404 ошибку. Вот список.

http://smstut.ru/smsstihi.html

http://smstut.ru/smsprikol.html

http://smstut.ru/sms47.html

http://smstut.ru/pro_simbols.html

http://smstut.ru/pro_codes.html

http://smstut.ru/smsmusic/wav/19990.wav

http://smstut.ru/fun/?stmod=rea&stgenre=34

http://smstut.ru/smssend.php

http://smstut.ru/sendsms.php

http://smstut.ru/upgtf.html

Браузер обычно позволяет себе более ресурсоемкие процессы чем краулер. Вполне возможно что браузером ваши страницы всегда открываются, а краулер получает нормальный ответ только через раз.

12

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий