Правильно ли составил robots.txt?

12
VR
На сайте с 07.09.2016
Offline
12
501

ДОбрый день друзья!

По инструкции яши https://yandex.ru/support/webmaster/controlling-robot/robots-txt.xml

составил робота для вордпресса:

User-agent: Yandex

Disallow: /wp-admin

Disallow: /wp-includes

Disallow: /wp-content/plugins

Disallow: /wp-content/cache

Disallow: /wp-content/themes

Disallow: /feed/

Disallow: */feed

Disallow: */trackback

Disallow: */comments

Disallow: /*?

Disallow: /*?*

Disallow: /tag

Host: https://vokalistu.ru

Sitemap: https://vokalistu.ru/sitemap.xml

для гугла пока в поиске...

Samail
На сайте с 10.05.2007
Offline
369
#1

robots.txt в Вебмастере проверить можно.

S3
На сайте с 29.03.2012
Offline
366
#2
Samail:
robots.txt в Вебмастере проверить можн

Правильность -да. Эффект - только практически)

Onecontent
На сайте с 02.05.2016
Offline
92
#3
Sly32:
Правильность -да. Эффект - только практически)

Смотря что подразумевать под словом "эффект". В том же вэбмастере можно проверить разрешен или запрещен для робота URL.

Создание и продвижение сайтов в Самаре ( https://onecontent.ru ) Автоаксессуары и тюнинг в Красноярске ( https://carbonado24.com )
F7
На сайте с 26.05.2014
Offline
44
#4
vokalistu_ru:
ДОбрый день друзья!

По инструкции яши https://yandex.ru/support/webmaster/controlling-robot/robots-txt.xml
составил робота для вордпресса:

User-agent: Yandex
Disallow: /wp-admin
Disallow: /wp-includes
Disallow: /wp-content/plugins
Disallow: /wp-content/cache
Disallow: /wp-content/themes
Disallow: /feed/
Disallow: */feed
Disallow: */trackback
Disallow: */comments
Disallow: /*?
Disallow: /*?*
Disallow: /tag
Host: https://vokalistu.ru
Sitemap: https://vokalistu.ru/sitemap.xml

для гугла пока в поиске...

Я бы на вашем месте в первую очередь доработал "прыгающее" при наведении меню, смотрится ужасно...

S3
На сайте с 29.03.2012
Offline
366
#5
Onecontent:
В том же вэбмастере можно проверить разрешен или запрещен для робота URL.

Все верно, соглашусь. Но не всегда все проверишь, особенно если много страниц и категорий. А время показывает - что попало в индекс лишнее.

Alexander22
На сайте с 05.09.2013
Offline
45
#6

404ю страницу подпилите

oxg
На сайте с 08.08.2011
Offline
218
oxg
#7

вообще то надо вот так по моему мнению:

User-agent: *

ваши Disallow:

Host: vokalistu.ru

на сколько я знаю Host пишут или с www( До основания Руси) и просто vokalistu.ru , без https://

хотя может и разницы нет)

Прокси IPv6 Россия (http://proxy-ipv6.ru/proxy_ipv6.html) /32 сеть, каждый IP в отдельной /48 сети Прокси IPv4 (http://proxyk.ru/proxy-russia.html) более 160 подсетей А,B,C Прокси для Инстаграм (http://proxy-ipv6.ru/instagram-proxy.html)
S3
На сайте с 29.03.2012
Offline
366
#8
oxg:
на сколько я знаю Host пишут

Читайте первоисточники -

Директива Host должна содержать:

Указание на протокол HTTPS, если зеркало доступно только по защищенному каналу (Host: https://myhost.ru).

Одно корректное доменное имя, соответствующего RFC 952 и не являющегося IP-адресом.

Номер порта, если необходимо (Host: myhost.ru:8080).

Некорректно составленные директивы Host игнорируются.

https://yandex.ru/support/webmaster/controlling-robot/robots-txt.xml?lang=ru

oxg
На сайте с 08.08.2011
Offline
218
oxg
#9
Sly32:
Читайте первоисточники -
Директива Host должна содержать:

Указание на протокол HTTPS, если зеркало доступно только по защищенному каналу (Host: https://myhost.ru)

да я не спорю, кто так ставит, кто-то так... просто думал что есть разница.

woman.ru

Host: www.woman.ru

зачем? если никто уже не вбивает www

типо страницы сайта отображаются с www и без, у меня на некторых сайтах из-за этого была раньше путаница

F7
На сайте с 26.05.2014
Offline
44
#10
oxg:
вообще то надо вот так по моему мнению:

User-agent: *
ваши Disallow:
Host: vokalistu.ru


на сколько я знаю Host пишут или с www( До основания Руси) и просто vokalistu.ru , без https://
хотя может и разницы нет)

При таком варианте Вебмастер яндекса будет ругаться на ошибку в host.

У ТС правильно указан с https://.

12

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий