Robots.txt

NS
На сайте с 07.09.2001
Offline
6
496

Всем привет.

А все-ли роботы обращают внимание на robots.txt.

У меня написано

User-Agent: *

Disallow: /cgi-bin/

а в cgi-bin все равно лезут, например вот этот -195.161.102.26

Достаточно ли просто иметь файл на диске?

Спасибо

M
На сайте с 25.01.2001
Offline
57
#1

Вроде бы robots.txt написан правильно. А какие конкретно роботы туда ходят? Т.е. интересен не IP (который, похоже, dial-up'у принадлежит), а User Agent.

[This message has been edited by melkov (edited 28-11-2001).]

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий