Все вопросы по robots.txt

B4
На сайте с 27.04.2012
Offline
94
#271
324 79:
А так ???

User-agent: *
Disallow: /wp-admin/
Disallow: /wp-includes/

Sitemap: http://site.ru/sitemap.xml

поправил лишние пробелы.

D
На сайте с 18.12.2014
Offline
0
#272

Подскажите, с одной страницы на другую сделать редирект (в связи со сменой адресов на чпу) и старую страницу закрыть в роботсе.... вес ссылочной массы перельется?

V
На сайте с 01.03.2008
Offline
62
#273

Добрый день!

В файле robots.txt у меня закрыты страницы с тэгами:

Disallow: /tag55.html

Disallow: /tag55.html?

Disallow: /tag55$

Я решил закрыть эти страницы мета-тэгом и добавил в код:

<meta name="robots" content="noindex, nofollow" />

Подскажите, что в данном случае делать с файлом robots.txt - оставлять в нем эти запреты? Или лучше убрать?

demon2005
На сайте с 06.02.2010
Offline
173
#274

Vimaz, не критично, уже закрыто же

Машины должны работать. Люди должны думать. (Девиз компании "IBM") Хостинг ( http://goo.gl/em6I5 ), рекомендую. Код на скидку 965VI5O60E Выгодно купить/продать сайт ( http://www.telderi.ru/?pid=c0fb22 )
B4
На сайте с 27.04.2012
Offline
94
#275
dobkin:
Подскажите, с одной страницы на другую сделать редирект (в связи со сменой адресов на чпу) и старую страницу закрыть в роботсе.... вес ссылочной массы перельется?

301 редирект, старую страницу закрывать не нужно. Вес передается.

---------- Добавлено 19.12.2014 в 22:11 ----------

Vimaz:
Добрый день!

В файле robots.txt у меня закрыты страницы с тэгами:

Disallow: /tag55.html
Disallow: /tag55.html?
Disallow: /tag55$

Я решил закрыть эти страницы мета-тэгом и добавил в код:

<meta name="robots" content="noindex, nofollow" />

Подскажите, что в данном случае делать с файлом robots.txt - оставлять в нем эти запреты? Или лучше убрать?

robots.txt - рекомендации, например google вообще может на него не обращать внимание.

meta name="robots" - мета-теги приобретены и будут выполнены.

sas7110
На сайте с 22.05.2009
Offline
111
#276

Здравствуйте, ребята, сайт на DLE, есть страницы, которые не нужны, вида http://сайт .ru/2014/11/14/ и так далее, в них материалы за этот день. Как мне закрыть эти страницы в robots.txt? Они в индексе не нужны...

Если я написал так в роботе:

User-agent: Yandex

Disallow: /engine/go.php

Disallow: /engine/download.php

Disallow: /engine/download.php?id=*

Disallow: /user/

Disallow: /newposts/

Disallow: /2014/

Disallow: /2015/

Disallow: /2016/

Disallow: /favorites/

Disallow: /language/

Disallow: /templates/

Disallow: /statistics.html

Disallow: /*subaction=userinfo

Disallow: /*subaction=newposts

Disallow: /*do=lastcomments

Disallow: /*do=feedback

Disallow: /*do=register

Disallow: /*do=lostpassword

Disallow: /*do=addnews

Disallow: /*do=stats

Disallow: /*do=pm

Disallow: /*do=search

Sitemap: http://сайт .ru/sitemap.xml

Host: сайт .ru

Так пойдет? Там ведь разные месяца и дни будут /2014/10/14/ - /2014/11/24/ и так далее.

То что я написал в роботе закроет их все или нет? Или может какие знаки нужно еще дописать..?

V
На сайте с 01.03.2008
Offline
62
#277
bulatbulat48:
301 редирект, старую страницу закрывать не нужно. Вес передается.

---------- Добавлено 19.12.2014 в 22:11 ----------



robots.txt - рекомендации, например google вообще может на него не обращать внимание.
meta name="robots" - мета-теги приобретены и будут выполнены.

Ок, понятно. Значит, на мое усмотрение

B4
На сайте с 27.04.2012
Offline
94
#278
sas7110:
Здравствуйте, ребята, сайт на DLE, есть страницы, которые не нужны, вида http://сайт .ru/2014/11/14/ и так далее, в них материалы за этот день. Как мне закрыть эти страницы в robots.txt? Они в индексе не нужны...
Если я написал так в роботе:

User-agent: Yandex
Disallow: /engine/go.php
Disallow: /engine/download.php
Disallow: /engine/download.php?id=*
Disallow: /user/
Disallow: /newposts/
Disallow: /2014/
Disallow: /2015/
Disallow: /2016/
Disallow: /favorites/
Disallow: /language/
Disallow: /templates/
Disallow: /statistics.html
Disallow: /*subaction=userinfo
Disallow: /*subaction=newposts
Disallow: /*do=lastcomments
Disallow: /*do=feedback
Disallow: /*do=register
Disallow: /*do=lostpassword
Disallow: /*do=addnews
Disallow: /*do=stats
Disallow: /*do=pm
Disallow: /*do=search
Sitemap: http://сайт .ru/sitemap.xml
Host: сайт .ru

Так пойдет? Там ведь разные месяца и дни будут /2014/10/14/ - /2014/11/24/ и так далее.
То что я написал в роботе закроет их все или нет? Или может какие знаки нужно еще дописать..?

закроет - по умолчанию идет *(регулярка - все символы) в конце строки.

sas7110
На сайте с 22.05.2009
Offline
111
#279

То есть я могу так оставлять? Там же в папке получается много разных месяцов и дней, они тоже все закроются? Или нужно написать так:

Disallow: /2014/*

Disallow: /2015/*

Disallow: /2016/*

Просто хочу уточнить и сделать правильно все.

B4
На сайте с 27.04.2012
Offline
94
#280
sas7110:
То есть я могу так оставлять? Там же в папке получается много разных месяцов и дней, они тоже все закроются? Или нужно написать так:
Disallow: /2014/*
Disallow: /2015/*
Disallow: /2016/*
Просто хочу уточнить и сделать правильно все.

достаточно:

Disallow: /2014/

Disallow: /2015/

Disallow: /2016/

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий