Абсолютно верный robots.txt для Wordpress

12
M2
На сайте с 11.01.2011
Offline
341
1169

У многих веб-мастеров сайты основаны именно на этой системе управления. Думаю, что сообществу будет интересно посмотреть на сокращенный, но абсолютно правильный и функционирующий вариант файла robots.txt для WP.

Итак, начнем:


Disallow: /wp-admin
Disallow: /wp-content
Disallow: /wp-includes

Этим запрещаем доступ в директории, куда никто вообще не должен лазить.


Disallow: /wp-*.php

Под эту регулярку подходят все служебные файлы: wp-activate.php, wp-load.php, wp-blog-header.php и так далее.


Disallow: /20*

Запретим таким образом отображение архивной информации.


Disallow: /*?

Страницы со знаком вопроса нам тоже не нужны.


Disallow: /tag

Теги... ну, спорный вопрос, конечно... я их запретил. Кому нужно - разрешайте :)


Disallow: /category/*
Disallow: /feed
Disallow: /comments/feed

Исключаем фиды и категории как дублирующиеся материалы.


Disallow: /?wppa=*

Лично у меня на сайте имеется фотогалерея, которая генерит много дублей, вписывающихся в этот шаблон. Указание такой строки уберет эти дубли.


Disallow: /?_openstat*
Disallow: /?s=*

Аналитику и любые результаты поиска - запрещаем.

Таким образом у вас получится сайт на Wordpress без всяких дублей страниц. Естественно, что если вы используете какие-то другие плагины, которые генерируют дубли, вписывающиеся в другие шаблоны, их нужно здесь указать.

Думаю, что многие эту информацию знают. Но если я кому-то помог этим постом - буду очень рад.

Напоследок - весь файл роботс:


User-agent: *
Disallow: /wp-admin
Disallow: /wp-content
Disallow: /wp-includes
Disallow: /wp-*.php
Disallow: /xmlrpc.php
Disallow: /?wppa=*
Disallow: /?_openstat*
Disallow: /?s=*
Disallow: /20*
Disallow: /category/*
Disallow: /feed
Disallow: /comments/feed
Disallow: /*?
Disallow: /tag

Данный файл может быть применен в том случае, если на сайте используется ЧПУ.

------------------- Крутые VPS и дедики. Качество по разумной цене ( http://cp.inferno.name/view.php?product=1212&gid=1 ) VPS25OFF - скидка 25% на первый платеж по ссылке выше
SeVlad
На сайте с 03.11.2008
Offline
1609
#1
mark2011:
абсолютно правильный ... вариант файла robots.txt для WP.

Чушь полнейшая!

Иди в этот топик и не забивай мозги нубам.

Делаю хорошие сайты хорошим людям. Предпочтение коммерческим направлениям. Связь со мной через http://wp.me/P3YHjQ-3.
N
На сайте с 08.10.2011
Offline
188
#2

Где пруф на Гблог?

M2
На сайте с 11.01.2011
Offline
341
#3

SeVlad, лично у меня эта чушь работает на ура.

Если ты усмотрел здесь что-то технически неверное, велкам с комментариями.

---------- Добавлено 04.02.2014 в 19:46 ----------

noiws, оно надо? Я просто поделился своими знаниями.

Chained
На сайте с 10.01.2013
Offline
92
#4

После таких советов, появляются такие темы.

M2
На сайте с 11.01.2011
Offline
341
#5

Chained, и что?

G-and-Y
На сайте с 29.06.2013
Offline
185
#6

Disallow: /wp-content запретили картинки для индексации

Юзаю этот и проблем нет

http://alaev.info/blog/post/4143

Абузо-устойчивые впс ( http://vps-hosting.lv/?p=13408 )
Devvver
На сайте с 02.07.2008
Offline
691
#7
Chained:
После таких советов

В Указанном топике человек сам виноват. Какое отношение это имеет к этому топику?

Редактировать роботс, когда проиндексированы дубли вообще не рекомендуется, так как это может привести к падению трафа.

Используя чужие настройки роботса нужно учитывать настройки, плагины своего сайта.

Мой блог. Все о создании сайтов,Seo и СДЛ ( https://e-moldovanu.com/ ) Мой SEO телеграм канал https://t.me/seobloggers
M2
На сайте с 11.01.2011
Offline
341
#8
G-and-Y:
Disallow: /wp-content запретили картинки для индексации

Можно узнать, что там за картинки?

SeVlad
На сайте с 03.11.2008
Offline
1609
#9
mark2011:
Если ты усмотрел здесь что-то технически неверное, велкам с комментариями.

150 раз уже говорил, говорю и видимо буду говорить - учите матчасть! Нет и не может быть:

1. "робоста для ВП" (есть роботс для САЙТА)

2. абсолютно правильного для всех. Потому что см п1.

---------- Добавлено 04.02.2014 в 18:04 ----------

mark2011:
Можно узнать, что там за картинки?

Может вначале стоит изучить как устроен ВП? А то сразу с советами "как нам обустроить Россию".

siv1987
На сайте с 02.04.2009
Offline
427
#10
mark2011:
SeVlad, лично у меня эта чушь работает на ура.

То что работает для вас, не факт что будет работать для другого человека. Я вот например не использую чпу на сайте, и ваш "абсолютно верный" роботс закроет нафиг весь сайт к индексации. Т.е. универсального роботса в данном случае как видно быть не может. Если уж хотели создать верный роботс, то вам бы стоило учесть эти моменты, и объяснить при каких обстоятельствах стоит и при каких нет данные правила.

---------- Добавлено 04.02.2014 в 20:31 ----------

Devvver:
Используя чужие настройки роботса нужно учитывать настройки, плагины своего сайта.

Вы забываете про суть топика. Речь не просто про роботс, а про "абсолютно верный".

12

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий