Гуру, подскажите по robots.txt

G
На сайте с 14.11.2008
Offline
21
788

Пытаюсь понять, почему мои сайты плохо индексируются и почему Яндекс Вебмастер находит много ошибок.

Для этого просмотрел статистику одно сайта с тИЦ 650 Яка ( просто читаю этот сайт с сентября, тИЦ у него вырос со 170 в сентябре до 650 в феврале)

Увидел вот такую запись в robots.txt:

User-agent: *

Disallow: /cgi-bin

Disallow: /wp-admin

Disallow: /wp-includes

Disallow: /wp-content/plugins

Disallow: /wp-content/cache

Disallow: /trackback

Disallow:/?feed=atom

Disallow:/?feed=comments-rss2

Disallow:/?feed=rss

Disallow:/?feed=rss2

Disallow:/xmlrpc.php?rsd

Host: www.*****.ru

Для чего это делается? Это важно или нет? Я, например, пользуюсь плагином All SEO для Wordpress.. Может, этот плагин мешает индексации?

Что, если я просто скопирую это в свой robots.txt? Это будет правильно или нет?

Гончая - блогерская газета (http://www.gonchaya.com/)
T
На сайте с 19.10.2008
Offline
32
#1

Гуру не являюсь, но могу подсказать чот здесь написано:)

Для всех роботов

Зпретить доступ к частям сайта: и идет перечень.

Для чего делается, думаю понятно, если вы понимаете что у вас находится по этим адресам(админка комменты и т.п.)

А почему плохо индексируется, нужно смотреть на какие ошибки указывается... может у вас хостинг просто плохой

Сбылись мечты народные: МИР-ТРУД-МАЙ
bojo
На сайте с 25.02.2008
Offline
72
#2

для индексации важна периодичность обновления. robots можешь скопировать там все верно написано (запрещены к индексации не значащие страницы, чтобы робот на них не отвлекался), но при условии что твой сайт на WP. Если будешь копировать то host поменяй на свой. Ну и последнее скорость индексации не влияет на ТИЦ 🚬

U
На сайте с 15.08.2008
Offline
56
#3

Здесь закрито только то что нужно закрыть. Может проблема в другом

NeoSky
На сайте с 18.01.2008
Offline
147
#4

без конкретного примера сайта это гадание на кофейной гуще

нет пищи для размышления

Из кожи вон, но лезу в ТОП
Z
На сайте с 01.06.2008
Offline
182
#5
Grenader:
Пытаюсь понять, почему мои сайты плохо индексируются и почему Яндекс Вебмастер находит много ошибок.
Для этого просмотрел статистику одно сайта с тИЦ 650 Яка ( просто читаю этот сайт с сентября, тИЦ у него вырос со 170 в сентябре до 650 в феврале)

Увидел вот такую запись в robots.txt:
User-agent: *
Disallow: /cgi-bin
Disallow: /wp-admin
Disallow: /wp-includes
Disallow: /wp-content/plugins
Disallow: /wp-content/cache
Disallow: /trackback
Disallow:/?feed=atom
Disallow:/?feed=comments-rss2
Disallow:/?feed=rss
Disallow:/?feed=rss2
Disallow:/xmlrpc.php?rsd
Host: www.*****.ru

Для чего это делается? Это важно или нет? Я, например, пользуюсь плагином All SEO для Wordpress.. Может, этот плагин мешает индексации?

Что, если я просто скопирую это в свой robots.txt? Это будет правильно или нет?

Сайт, на котором вырос тИЦ и который прописан в host совпадают? :) Для каждого сайта свой роботс.тхт. Скопировав, вы можете нечаянно запретить индексацию рабочих разделов :)

G
На сайте с 14.11.2008
Offline
21
#6

Спасибо за ответы.

Сайт и хост совпадают в примере совпадают.

А у моего сайта и исследуемого сайта совпадпают версии Водрпресс и хостинг. Разница в шаблонах, ну и тематике конечно.

Вот что говорит Яндекс- вебмастер про мой блог:

Тип ошибки Количество

HTTP-статус: Ресурс перемещён навсегда (301)? 1

Формат документа не поддерживается? 5

Документ запрещен в файле robots.txt? 2

Документ содержит мета-тег noindex? 81

Возьмем второй пункт: Формат документа не поддерживается? Ошибок - 5

/comments/feed/

/feed/

/feed/atom/

/feed/rss/

/wp-includes/wlwmanifest.xml

Т.е эти файлы в исследуемом сайте закрыты robots.txt, у меня - нет, Яндекс считает их ошибками.

Что касается вот этого пункта - "Документ содержит мета-тег noindex? Ошибок -81", то, если я правильно понимаю, это работа плагина All SEO, который запрещает индексацию категорий и отдельных страниц. Хотя я проверял, страница числится с ошибкой, но находится при этом в индексе Яндекса.

sergioni3101
На сайте с 26.08.2007
Offline
60
#7

Я бы больше обратил внимание на последнее и наверное отключил бы noindex в метатегах

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий