Проблемы с robot.txt

BB
На сайте с 25.01.2012
Offline
12
BtB
428

Добрый вечер уважаемые форумчане. Прошу уделить мне минутку вашего времени.

У меня проблема с robot.txt. В яндекс ваебмастер пишет что загружено роботом 196

исключено роботом 124 страницы. Я так понимаю что исключенные страницы не попадают в индексацию? что делать ? в чем может быть проблема ?

Заранее спасибо.

Лучший хостинг и регистратор. (http://www.reg.ru/?rid=315933)
kdv12
На сайте с 05.12.2011
Offline
52
#1

А посмотреть почему страницы исключены трудно? Это могут быть и 404 ошибки и ограничения в robots.txt. Там же все написано.

Разработка сайтов любой сложности на 1С-Битрикс. Бесплатные консультации.
BB
На сайте с 25.01.2012
Offline
12
BtB
#2

Смотрел только не понял где зачем и почему.

Прошу не судить строго. Если не трудно дайте ссылку где все написано.

Заранее спасибо.

При анализе робота.

Выдает:

1-36

User-agent: *

Disallow: /*print

...

Disallow: /statistics.html

38-39

Host: domen.ru

Sitemap: http://domen.ru/sitemap.xml

если нетрудно расскажите как исправить ошибку

Speaker19
На сайте с 20.12.2010
Offline
224
#3

BtB, не попадать в выдачу эти страницы могут не потому что закрыты в роботсе, а потому что алгоритмы поисковой системы не считают их полезными!

Дешевая и эффективная реклама ВКонтакте: сообщества, рекламные посты, аналитика. (http://adspoiler.com/r/16336752) Имеются свободные рекламные места в соц. сетях? (http://partner.apishops.com/soc.htm)
BB
На сайте с 25.01.2012
Offline
12
BtB
#4

Speaker19, Спасибо за ответ. А как узнать запрещает ли робот индексировать определенные страницы?

6666
На сайте с 10.01.2005
Offline
505
#5
BtB:
У меня проблема с robot.txt

если у Вас robot.txt , то да, проблемы. Файл должен называться robots.txt

Каждое мое сообщение проверила и одобрила Елена Летучая. (c) Для меня очень важно все что Вы говорите! (http://surrealism.ru/123.mp3) .
BB
На сайте с 25.01.2012
Offline
12
BtB
#6

6666, )) Да я знаю как он должен называться. Это я просто так написал. ))

В роботе нужно указывать все разделы сайта для нормально индексации ?

Speaker19
На сайте с 20.12.2010
Offline
224
#7
BtB:
А как узнать запрещает ли робот индексировать определенные страницы?

В Яндекс.Вебмастере в разделе "Настройка индексирования" имеется подраздел "Анализ robots.txt". В поле "Список URL" добавляете необходимые страницы сайта и нажимаете "проверить"!

И обязательно братите внимание на замечание 6666 - файл должен называться robots.txt

BB
На сайте с 25.01.2012
Offline
12
BtB
#8

Всем спасибо за помощь.Speaker19, Вам особая благодарность за ваше терпение и конструктивный ответ.

Ошибка была элементарная.

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий