robots.txt и гугл

Unlock
На сайте с 01.08.2004
Offline
786
395

Люди, помогите разобраться, я где-то не правильно что-то сделал или гугл забил на robots.txt

Ситуация следующая:

Выложил статьи в pdf и закрыл их через robots.txt следующим образом:

User-agent: *

Disallow: /articles/

Сегодня обнаружил что статьи в индексе. Где я накосячил?

Есть желание, - тысяча способов; нет желания, - тысяча поводов! /Петр-I/.
Nikolaich
На сайте с 18.05.2005
Offline
132
#1

Abort trap (no core dumped)

Bus error (core mailed)

- - найден по ссылке

Похожие документы

Глюк!:)

Бабло побеждает зло.
Nikolaich
На сайте с 18.05.2005
Offline
132
#2
Unlock:
Люди, помогите разобраться, я где-то не правильно что-то сделал или гугл забил на robots.txt
......
Где я накосячил?

Всё правильно...

По крайней мере так говорит спецификация...

www.robotstxt.org/wc/exclusion-admin.html

Unlock
На сайте с 01.08.2004
Offline
786
#3

Самое интересно, что в другие папки (например со статистикой) гугл не лезет. Может сделать ссылки на статьи через javascript или не поможет?

Nikolaich
На сайте с 18.05.2005
Offline
132
#4

Я тут похожой темой заморачиваюсь: /ru/forum/22467

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий