Урлы скрипта не нравяться гуглу

12
N
На сайте с 23.12.2010
Offline
25
810

Ребята, помогите разобраться.

Некий скрипт выдает урлы в виде:

http://domain.com/video/description-of-post-or-other-script/?MC41LjU4LjI3NjEuMC500

Где урл поста (или тубового скрипта) содержит описание и айдишник.

Но такого рода урлы google webmaster tools постоянно записывает в Restricted by robots.txt ‎(341)‎

И пару раз в неделю пишет мне сообщения типа http://domain.com/: Possible outages.

Можно отменить encrypt передачи ID, но тогда описание не удасться передавать в вышеуказанном виде.

Как выйти из положения.

Не ругайтесь.

Заранее благодарен.

T
На сайте с 24.11.2008
Offline
18
#1

Restricted by robots.txt - это значит запрещен через robots.txt. Его и курите.

N
На сайте с 23.12.2010
Offline
25
#2

http://domain.com/robots.txt пустой вообще.....

T
На сайте с 24.11.2008
Offline
18
#3
Netwarrior:
http://domain.com/robots.txt пустой вообще.....

Попробуйте создать.

N
На сайте с 23.12.2010
Offline
25
#4
timmz:
Попробуйте создать.

Так он и так существует.

Кстати подскажите права на него надо 666 или достаточно 644?

T
На сайте с 24.11.2008
Offline
18
#5

644, если не хотите чтобы все подряд в него писали. сделайте не пустой:

User-agent: *

Allow: /

M
На сайте с 27.10.2006
Offline
111
#6
timmz:
User-agent: *
Allow: /

Нахрена он нужен такой? Разрешить то, что разрешено по умолчанию? Это как светофор посреди поля поставить.

Бесплатное хранилище данных (http://bit.ly/gJYy9Z) (5GB) с синхронизацией. По ссылке — бонус 500MB.
T
На сайте с 24.11.2008
Offline
18
#7
Maxoud:
Нахрена он нужен такой? Разрешить то, что разрешено по умолчанию? Это как светофор посреди поля поставить.

Это понятно. Просто откуда тогда ошибка "Restricted by robots.txt". Хуже не будет :)

N
На сайте с 23.12.2010
Offline
25
#8

Отцы, вы где?

L
На сайте с 07.12.2007
Offline
351
#9
Netwarrior:
Отцы, вы где?

Мистика какая-то, показывайте сайт.

K
На сайте с 21.06.2007
Offline
48
#10

Я бы вашу структуру:

User-agent: *

Allow: /

Заменил бы на:

User-agent: *

Disallow:

Ибо тоже самое, зато правильно...

Инструкция allow - не существует, а те поисковики, типа Яндекса, которые подобное поддерживают - все это от дьявола...

SEOman.
12

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий