Помогите разобраться с robots.txt

12
K
На сайте с 31.01.2001
Offline
737
#11

Это значит:

1) такого файла нет

2) на сервере некорректно обрабатывается отсутствие документа, должен быть код 404.

Выделенные полосы в Москве (http://www.probkovorot.info) привели к снижению скорости до 23%.
AVV
На сайте с 31.07.2006
Offline
84
AVV
#12
ProSaifer:
вот что он мне написал: "Сервер вернул код ошибки 301"

Сделайте отдельные файлы robots.txt для url с www и без www.

PS
На сайте с 12.12.2007
Offline
22
#13

При вводе http://formens.ru/robots.txt/

вот такое содержание:

User-agent: *

Disallow:

Сайт: http://formens.ru

Что посоветуете сделать? нужно чтобы индексировалось всё содержимое сайта во всех поисковиках.

albion
На сайте с 07.10.2005
Offline
247
#14
ProSaifer:
При вводе http://formens.ru/robots.txt/

Исправьте .htaccess, так что бы в урле после robots.txt не шел бекслеш /. Иначе поисковики не воспримут данный файл.

ProSaifer:
Что посоветуете сделать? нужно чтобы индексировалось всё содержимое сайта во всех поисковиках.

Либо исправить настройки сервера, либо вообще его не выкладывать (в файле все равно ничего нет). Но лучше изменить настройки.

PS
На сайте с 12.12.2007
Offline
22
#15

Содержимое .htaccess:

# BEGIN WordPress

<IfModule mod_rewrite.c>

RewriteEngine On

RewriteBase /

RewriteCond %{REQUEST_FILENAME} !-f

RewriteCond %{REQUEST_FILENAME} !-d

RewriteRule . /index.php [L]

</IfModule>

# END WordPress

Что поправить?

AVV
На сайте с 31.07.2006
Offline
84
AVV
#16
ProSaifer:


Что поправить?

А не проще положить в корень сайта файл robots.txt?

P.S. Эти записи в файле .htaccess, если запрашиваемый документ не является каталогом или файлом, переправляют запрос на index.php

Нужны ли они вообще? В вашем случае?

Иногда достаточно, вместо этих всех строк, всего одной, например:

ErrorDocument 404 http://www.site.ru/

PS
На сайте с 12.12.2007
Offline
22
#17

какое содержание сделать файла robots.txt?

в обычном текстовом формате?

AVV
На сайте с 31.07.2006
Offline
84
AVV
#18
ProSaifer:
какое содержание сделать файла robots.txt?

в обычном текстовом формате?

User-agent: *
Disallow:

Всё разрешено индексировать.

Напишите в блокноте и сохраните, как файл robots.txt и положите его туда, где файл index лежит, в корень сайта.

P.S. Если файл /robots.txt пустой (чистый), поисковый робот будет работать по своему алгоритму.

P.P.S. Если значение Disallow не указано (как в моём примере), то это означает, что разрешено индексировать все дерево каталогов сайта.

стандарт исключений для роботов по русски

PS
На сайте с 12.12.2007
Offline
22
#19

всё сделал. спасибо за конструктивные советы.

Теперь Я. пишет: данный робот ничего не запрещает.

12

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий