Самые частые директивы в файле robots.txt

FeSSik
На сайте с 19.09.2008
Offline
127
418

Здравствуйте.

Поделитесь опытом, скажите какие директивы чаще всего используются в файле robots.txt? Я думаю, что это Disallow и Allow, но возможно я ошибаюсь.

И ещё вопрос.

Какими методами можно указать поисковому роботу, что закачивать нужно с сайта только те страницы, на которых произошли какие-то изменения с момента его предыдущего захода на сайт.

Заранее спасибо.

Все региона мобильных прокси. Есть забугор. https://goo.su/G5nhch
FeSSik
На сайте с 19.09.2008
Offline
127
#2

Спасибо, прочитал.

На второй вопрос кто-нибудь может ответить?

S2
На сайте с 07.01.2008
Offline
611
#3
FeSSik:
Спасибо, прочитал.
На второй вопрос кто-нибудь может ответить?

Сервер должен отдавать в поле last-modified дату последних изменений сделанных на странице.

Проверить дату можно тут например.

Не надо приписывать мне свои выводы, я имею ввиду только то, что написал. Лучшая партнёрка по футболкам/толстовкам (http://partnerka.kolorado.ru/?ref=1921540) Опрос: Проверить текст на уник - как? (/ru/forum/495885)
K
На сайте с 31.01.2001
Offline
737
#4
FeSSik:
Какими методами можно указать поисковому роботу, что закачивать нужно с сайта только те страницы, на которых произошли какие-то изменения с момента его предыдущего захода на сайт.
Заранее спасибо.

Ищите про 304 и If-Modified-Since

Выделенные полосы в Москве (http://www.probkovorot.info) привели к снижению скорости до 23%.
Hooper
На сайте с 07.09.2007
Offline
62
#5

директивы allow не существует!

Talisman13
На сайте с 20.01.2007
Offline
211
#6
Hooper:
директивы allow не существует!

Не говори чушь.

Учись лучше.

И пройди по ссылкам, что во 2 посте и почитай.

Цахес
На сайте с 15.03.2007
Offline
205
#7
Hooper:
директивы allow не существует!

Приехали.

Пожалуйста, не путайте Гоголя с Гегелем, Бабеля с Бебелем, а директиву Allow с Дедом Морозом! ☝

- Хорошие и плохие тексты для ваших сайтов (http://www.textsale.ru/team57397.html). - Удаленная работа. Вакансия копирайтера/рерайтера. (http://advego.ru/6myq8sgvKk) - Быстрое составление семантического ядра (https://topvisor.ru/?inv=39380).

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий