Проверка robots.txt в Я

K1
На сайте с 14.05.2006
Offline
11
1046

robots.txt:

User-agent: *

Disallow : /gost.php

Disallow : /user.php

Disallow : /log.php

Disallow : /sent.php

Disallow : /news.php

Disallow : /static.php

Disallow : /lider.php

Disallow : /about.php

User-agent: Yandex

Disallow : /gost.php

Disallow : /user.php

Disallow : /log.php

Disallow : /sent.php

Disallow : /news.php

Disallow : /static.php

Disallow : /lider.php

Disallow : /about.php

Host: site.ru

На странице test-robots ввожу свой сайт-www.site.ru а мне на выходе:

Запрещена индексация всех URL, начинающихся с указанных префиксов:

/


Индексация сервера www.site.ru:80 полн. запреще

Может я что-то не понял?

Смущает эта фраза:


Индексация сервера www.site.ru:80 полн. запреще

IrokezV
На сайте с 05.03.2006
Offline
153
#1

Попробуйте ввести без www, ведь у вас

kest131:
Host: site.ru
Вся жилая недвижимость на Avaho.ru ( http://avaho.ru/?utm_source=searchguru )
K1
На сайте с 14.05.2006
Offline
11
#2

ввел site.ru ошибки нету выводит:

Данный файл robots.txt ничего не запрещает.

Хотя должен выводить что запрещены определенные страницы.

Странно....

IrokezV
На сайте с 05.03.2006
Offline
153
#3

kest131,

Напишите не

kest131:
Disallow : /user.php

,

а Disallow: /user.php

то есть между Disallow и : БЕЗ пробела

А вообще-то можно было и самому всю инфу найти

первоисточник:

http://www.robotstxt.org/wc/norobots.html

другие сайты:

http://ru.wikipedia.org/wiki/Robots.txt

или на худой конец просто поиск ☝ ☝

http://www.google.com/search?hl=ru&q=robots.txt&btnG=%D0%9F%D0%BE%D0%B8%D1%81%D0%BA&lr=

K1
На сайте с 14.05.2006
Offline
11
#4
IrokezV:

а Disallow: /user.php
то есть между Disallow и : БЕЗ пробела

Вуаля работает:)

Так я и искал инфу просто во всех примерах написания было Disallow :

IrokezV
На сайте с 05.03.2006
Offline
153
#5

Всегда пож-та. :)

kest131:
Так я и искал инфу просто во всех примерах написания было Disallow :

И где же такие НЕПРАВИЛЬНЫЕ примеры в нете?

K1
На сайте с 14.05.2006
Offline
11
#6
IrokezV:

И где же такие НЕПРАВИЛЬНЫЕ примеры в нете?

Вот : http://www.seo.su

На странице 5 раз написано: Disallow :

a.fatman
На сайте с 15.01.2006
Offline
127
#7
kest131:
Вот : http://www.seo.su

На странице 5 раз написано: Disallow :

Мораль. Стоит обращаться к более достоверным источникам. Особенно к спецификациям.

K1
На сайте с 14.05.2006
Offline
11
#8
a.fatman:
Мораль. Стоит обращаться к более достоверным источникам. Особенно к спецификациям.

Ну незнаю может.

Хотя домен seo.ru у меня не вызвал подозрений.

a.fatman
На сайте с 15.01.2006
Offline
127
#9

kest131, будьте внимательней -- пригодится. :)

Постом выше был домен seo.su.

А на seo.ru предлагают электронно-лучевую сварку.

K1
На сайте с 14.05.2006
Offline
11
#10
a.fatman:
kest131, будьте внимательней -- пригодится. :)

Постом выше был домен seo.su.

А на seo.ru предлагают электронно-лучевую сварку.

Точно точно мой косяк :)

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий