robots.txt в WP

12
G
На сайте с 20.01.2010
Offline
57
1071

Где robots.txt в WP ? звучит глупо наверное, но такое чувство что он не в корневой.

точнее, свой я помещаю в корневой, но в гугл вебмастер пишет что sitemap.xml закрыт роботсом.

в настройках приватности вп всё нормально стоит, вот мой роботс который в корневой:

User-Agent: *
Disallow: /wp-admin/
Disallow: /wp-content/
Disallow: /wp-includes/
Disallow: /wp-activate.php
Disallow: /wp-app.php
Disallow: /wp-atom.php
Disallow: /wp-blog-header.php
Disallow: /wp-comments-post.php
Disallow: /wp-commentsrss2.php
Disallow: /wp-config.php
Disallow: /wp-cron.php
Disallow: /wp-feed.php
Disallow: /wp-links-opml.php
Disallow: /wp-load.php
Disallow: /wp-login.php
Disallow: /wp-mail.php
Disallow: /wp-pass.php
Disallow: /wp-rdf.php
Disallow: /wp-register.php
Disallow: /wp-rss.php
Disallow: /wp-rss2.php
Disallow: /wp-settings.php
Disallow: /wp-signup.php
Disallow: /wp-trackback.php
Disallow: /xmlrpc.php
Allow: /wp-content/uploads/

и ещё вопросик, включил чпу, теперь получается на одну страницу с контентом 2 разные ссылки?

тобишь короткая которая была до включения чпу, и та которую я сам прописал?

чувствую что плохо это, как лечить?

kimberlit
На сайте с 13.03.2007
Offline
370
#1

Зачем столько ерунды там прописал? Кстати, allow не будет работать в данном случае.

G
На сайте с 20.01.2010
Offline
57
#2
kimberlit:
Зачем столько ерунды там прописал? Кстати, allow не будет работать в данном случае.

оставить только папки?

и allow походу надо прописывать заново user agent?

сделал так:


User-Agent: *
Disallow: /wp-admin/
Disallow: /wp-content/
Disallow: /wp-includes/

User-Agent: *
Allow: /wp-content/uploads/
A
На сайте с 20.08.2010
Offline
775
#3

Поставьте стандартный роботс для вп и не парьтесь. То, что яндексу не нужно, он и так не учтет (бывают, конечно, исключения)

Не понял насчет корневой. При установке вп автоматом задается такой роботс

User-agent: *
Disallow:

Sitemap: http://site.ru/sitemap.xml.gz
cheredov
На сайте с 07.04.2011
Offline
125
#4
Gophp:
оставить только папки?
и allow походу надо прописывать заново user agent?
сделал так:

Вряд ли робот сам найдет все ваши файлы. Сотрите все. А одинаковые страницы склеятся сами, можете сделать редирект.

Иван Чередов (http://ivan.cheredov.com/about/)
kimberlit
На сайте с 13.03.2007
Offline
370
#5
Gophp:
и allow походу надо прописывать заново user agent?

Её впереди Disallow: /wp-content/ надо писать. Учи матчасть.

G
На сайте с 20.01.2010
Offline
57
#6

Удалил роботс, но набирая site.ru/robots.txt открывает левый роботс,

в котором как раз карта сайта и закрывается.

в корневом нету, по папкам полазил - нету, где искать?

cheredov
На сайте с 07.04.2011
Offline
125
#7
Gophp:
Удалил роботс, но набирая site.ru/robots.txt открывает левый роботс,
в котором как раз карта сайта и закрывается.
в корневом нету, по папкам полазил - нету, где искать?

Скажите, а с какой целью вы его ищите и пишите?

cheredov добавил 05.06.2011 в 17:43

Gophp, роботы сами в ваши файлы\папки не полезут. А если какой злоумышленник сошлется на них, то роботы туда залезут несмотря на ваш роботс.

G
На сайте с 20.01.2010
Offline
57
#8
cheredov:
Скажите, а с какой целью вы его ищите и пишите?

cheredov добавил 05.06.2011 в 17:43
Gophp, роботы сами в ваши файлы\папки не полезут. А если какой злоумышленник сошлется на них, то роботы туда залезут несмотря на ваш роботс.

Немного не понял вас.

Я немогу гуглу скормить карту сайта, потому что она закрыта в роботс.тхт, но в корневой папке его нету, набирая site.ru/robots.txt открывает левый роботс, которого нету в корневой папке:

User-agent: *
Disallow:
Sitemap:/sitemap.xml

его подсовывает wp, но где убрать это я не знаю, по этому интересуюсь:)

cheredov
На сайте с 07.04.2011
Offline
125
#9
Gophp:
его подсовывает wp, но где убрать это я не знаю, по этому интересуюсь

Вот это хороший вопрос. Сейчас поищем.

cheredov добавил 05.06.2011 в 18:40

http://www.wp-info.ru/pravilnyj-robotstxt-dlya-wordpress/

Как раз то что вы спрашивали. Запрос "robots.txt wordpress" в Гугле. Первая строчка )))

cheredov добавил 05.06.2011 в 18:44

Еще можете тут почитать http://wordpress.org/extend/plugins/kb-robotstxt/ все по-моему просто.

G
На сайте с 20.01.2010
Offline
57
#10

в гугле, естественно, был.

плагин http://wordpress.org/extend/plugins/kb-robotstxt/ поставил,

пишу site.ru/robots.txt, открывает тот что вписал в плагин.

но, опять же, в гугл вебмастере, скармливаю sitemap, и оно его не принимает по причине мол запрещен в роботс тхт.

наверное, где то прописано что бы именно для роботов подставлялся роботс в котором sitemap и закрывается, вопрос где... все папки облазил, ничего нету(

12

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий