файл robots.txt

RL
На сайте с 12.09.2013
Offline
1
RFL
428

Сейчас robots.txt такой

User-Agent: Yandex

Disallow: /admin

Disallow: /emarket/addToCompare

Disallow: /emarket/basket

Disallow: /go_out.php

Crawl-delay: 10

Sitemap: http://abc.ru/sitemap.xml

1. Мне непонятно что запрещают строки (может все данные, которые содержатся для заказа с сайта?):

Disallow: /emarket/addToCompare

Disallow: /emarket/basket

Disallow: /go_out.php

------------------------------------------

2. Будет ли корректным роботс вида

User-Agent: *

Disallow:

Sitemap: http://abc.ru/sitemap.xml

Host: abc.ru

3. Надо ли добавить строку

Crawl-delay: 10 (или может другое значение, скажем 3)

4. От чего спасает строка

Disallow: /admin

Заранее благодарю

Я_Рожден_В_СССР
На сайте с 21.08.2010
Offline
75
#1

1. Запрет на индексацию корзины (/emarket/basket), сравнения товаров (/emarket/addToCompare) и не знаю, что это (/go_out.php).

2. Разрешаете всем роботам индексировать весь сайт.

3. Решать вам. Подробнее тут -> http://help.yandex.ru/webmaster/?id=996567#1022359

4. Не индексирует админку.

Тут всё про роботс.тхт -> http://help.yandex.ru/webmaster/?id=996567

Не за что.

RL
На сайте с 12.09.2013
Offline
1
RFL
#2

4. Не индексирует админку.

а что нежелательного в том, что проиндексируется админка?

GS
На сайте с 12.03.2012
Offline
60
#3

иногда, злоумышленники пользуются уязвимостями известных CMS, что бы найти подходящую CMS ищут по определенному правилу, когда закрыта от индексации админка, её не найдут.

ну это мысли в слух, может быть для чего то другого?

cheredov
На сайте с 07.04.2011
Offline
125
#4
GigaSSS:
иногда, злоумышленники пользуются уязвимостями известных CMS, что бы найти подходящую CMS ищут по определенному правилу, когда закрыта от индексации админка, её не найдут.
ну это мысли в слух, может быть для чего то другого?

Вот скорее ее найдут заглянув в роботс ;)

Иван Чередов (http://ivan.cheredov.com/about/)
GS
На сайте с 12.03.2012
Offline
60
#5
cheredov:
Вот скорее ее найдут заглянув в роботс ;)

для этого нужна база этих самых роботс.тхт? Где её взять?

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий