Вопрос про robot.txt

B
На сайте с 03.02.2010
Offline
8
340

Правильно ли будет создать в корневой папке роботс.тхт и запритить там переходы на страницы регистрации , статистики, страниц пользователей и других при этом в <head> написано <meta name="robots" content="all" />

???

http://x-fox.ru (http://x-fox.ru) Всё для себя и для вашего PC.
B
На сайте с 02.04.2008
Offline
250
#1

Правильные боты сначала читают robots, а уже потом идут на сайт или не идут (если запрещено)

webmaster-21
На сайте с 24.02.2009
Offline
104
#2
burikstar:
Правильно ли будет создать в корневой папке роботс.тхт и запритить там переходы на страницы регистрации , статистики, страниц пользователей и других при этом в <head> написано <meta name="robots" content="all" />

???

Насколько я помню роботс имеет решающее значение.

B
На сайте с 03.02.2010
Offline
8
#3

ясно а вообще стоит убрать мета тег робота или оставить?

klimentino0
На сайте с 24.09.2010
Offline
8
#4

Можно оставить мета-тег. Про robots можешь почитать тут. Самое главное что написано в самом robots.txt

Другой вариант если в мета теге закрыто все от индексации, а в txt нет , то лучше мета тег убирать или изменить на content="all"

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий