robots.txt

12 3
U
На сайте с 24.02.2009
Offline
116
1693

разрешить индексацию только *.html и главной страницы

все остальное закрыть возможно ли такое?

elud
На сайте с 12.02.2011
Offline
52
#1
ufaclub:
разрешить индексацию только *.html и главной страницы
все остальное закрыть возможно ли такое?

Интереснее все равно не рассказать: http://help.yandex.ru/webmaster/?id=#

СПб - мой любимый город
wlad2
На сайте с 17.07.2008
Offline
153
#2

можно закрыть все что ненужно,

оставить html так:

Allow: /*.html

если пропишите

Disallow: /

то морда сайта как минимум выпадет из индекса, поэтому все категории, метки, навигацию нужно закрывать индивидуально

Disallow: /tag/

Disallow: /cat/

S
На сайте с 08.07.2011
Offline
2
#3

Можно добавить так:

Allow: /$

Allow: /*.html

Disallow: /

кондиционеры в оренбурге (http://гринклимат.рф) и котлы в оренбурге (http://гринклимат.рф).
U
На сайте с 24.02.2009
Offline
116
#4
Seklth:
Можно добавить так:
Allow: /$
Allow: /*.html
Disallow: /

тогда морда останется?

S
На сайте с 08.07.2011
Offline
2
#5
ufaclub:
тогда морда останется?

http://help.yandex.ru/webmaster/?id=996567

Совместное использование директив.

Спецсимвол '$'

wlad2
На сайте с 17.07.2008
Offline
153
#6

с

Disallow: /

я не советую играть, это опасно для сайтов которые в индексе.

FX
На сайте с 20.05.2009
Offline
23
#7

Проверять через инструмент вебмастера для robots.txt

Заметки и статьи о продвижении сайтов (http://blogobit.ru/seo). Компания RangeVision – производитель 3d сканеров (http://rangevision.com). Экспертиза промышленной безопасности (http://экспертиза-пб.su) у нас.
Neamailer
На сайте с 23.12.2010
Offline
153
#8
elud:
Интереснее все равно не рассказать: http://help.yandex.ru/webmaster/?id=#

А что у тебя там такое, что ты не хочешь индексировать, может лучше запретить то, что не хочешь ?

Мой крипто кошелек 366BsNeUWL7TguAyxFZZ7GUS78pMUVyULK на https://crypto-wallet.org/ru/ (Биткоин)
wlad2
На сайте с 17.07.2008
Offline
153
#9
Neamailer:
А что у тебя там такое, что ты не хочешь индексировать, может лучше запретить то, что не хочешь?

+1

ну если поставят внешнюю ссылку на страницу закрытую в robots.txt, то она все равно попадет в поисковый индекс.

Правильнее будет закрывать мета тегом <META NAME="ROBOTS" CONTENT="NOINDEX,NOFOLLOW">

Neamailer
На сайте с 23.12.2010
Offline
153
#10
wlad2:
+1
ну если поставят внешнюю ссылку на страницу закрытую в robots.txt, то она все равно попадет в поисковый индекс.
Правильнее будет закрывать мета тегом <META NAME="ROBOTS" CONTENT="NOINDEX,NOFOLLOW">

Да кому надо ссылку то ставить?

12 3

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий