Все вопросы по robots.txt

B4
На сайте с 27.04.2012
Offline
94
#251
xakep1:
Почему Яндекс не индексирует страницы вида site.ru/lechenie-alkogolizma/алкоголизм-и-дипсомания/ при таком файле robots.txt:

User-agent: Yandex
Disallow: /administrator/
Disallow: /cache/
Disallow: /cli/
Disallow: /components/
Disallow: /includes/
Disallow: /installation/
Disallow: /language/
Disallow: /libraries/
Disallow: /logs/
Disallow: /media/
Disallow: /modules/
Disallow: /plugins/
Disallow: /templates/
Disallow: /tmp/
Disallow: /share42/
Disallow: /wm/
Disallow: /404/
Disallow: /component/

P.S. для Гугла такая же установка стоит и все ок, страницы такого вида в индексе Гугла. Помогите, пожалуйста, разобраться в чем причина?!

Ссылка http://www.alkonarkostop.com.ua/

проблема не в robots

М1
На сайте с 28.10.2014
Offline
3
#252

Здравствуйте !

Помогите разобраться, если мне надо закрыть в robots все ссылки вида:

www.site.ru/категория/раздел/страница/v

в роботс должна быть запись вида

Disallow: */v ?

Не заблокируются ли в таком случае подобные страницы:

www.site.ru/категория/раздел/privet

?

Грубо говоря, как сделать блок именно нужно уровня? В моём случае, если не ошибаюсь, пятого уровня.

Заранее спасибо.

Sportmas
На сайте с 20.08.2008
Offline
271
#253

В чем проблему у bulatbulat?

B4
На сайте с 27.04.2012
Offline
94
#254
Михаил190:
Здравствуйте !

Помогите разобраться, если мне надо закрыть в robots все ссылки вида:
www.site.ru/категория/раздел/страница/v
в роботс должна быть запись вида
Disallow: */v ?

Не заблокируются ли в таком случае подобные страницы:
www.site.ru/категория/раздел/privet
?
Грубо говоря, как сделать блок именно нужно уровня? В моём случае, если не ошибаюсь, пятого уровня.

Заранее спасибо.

Disallow: /v$

- закроет все /v

Disallow: /category/razdel/str/v$

- закроет ваш уровень

Михаил190:

Не заблокируются ли в таком случае подобные страницы:
www.site.ru/категория/раздел/privet
?

нужно поставить знак $ - конец раздела, и соответственно начинать с /

М1
На сайте с 28.10.2014
Offline
3
#255

Большое спасибо за ответ

cscope
На сайте с 13.02.2005
Offline
525
#256

Подскажите, если мне нужно, чтобы основной сайт не индексировался, а сайты на поддоменах индексировались, при условии, что папки с файлами поддоменов находятся в корне?

Что прописать в роботсе для всех ботов?

T
На сайте с 02.12.2011
Offline
75
#257

Яндекс не индексирует сайт больше 1,5 месяца, пишет, что в роботс стоит запрет на индексацию "/"

Гугл всё проиндексировал без проблем.

В robots.txt такого запрета нет... вот текущий роботс:

User-agent: *

Allow: /

Disallow: /bitrix/

Disallow: /auth/

Disallow: /links/

Disallow: /personal/

Disallow: /search/

Disallow: /test/

Disallow: /auth.php

Disallow: /*?print=

Disallow: /*&print=

Disallow: /*register=yes

Disallow: /*forgot_password=yes

Disallow: /*change_password=yes

Disallow: /*login=yes

Disallow: /*logout=yes

Disallow: /*auth=yes

Disallow: /*backurl=*

Disallow: /*BACKURL=*

Disallow: /*back_url=*

Disallow: /*BACK_URL=*

Disallow: /*back_url_admin=*

Sitemap: http://-------.ru/sitemap.xml

Host: -----.ru

В чём может быть проблема?

Спасибо!

enK
На сайте с 17.02.2012
Offline
29
enK
#258
tasja:
Яндекс не индексирует сайт больше 1,5 месяца, пишет, что в роботс стоит запрет на индексацию "/"
Гугл всё проиндексировал без проблем.

В robots.txt такого запрета нет... вот текущий роботс:

...

В чём может быть проблема?
Спасибо!

Аналогично, никак не пойму..

Рисую дизайны сайтов/лендингов - и многое другое! Портфолио пополнилось... CМОТРЕТЬ ПОРТФОЛИО (http://www.weblancer.net/users/Anntoly/portfolio/)
B4
На сайте с 27.04.2012
Offline
94
#259
cscope:
Подскажите, если мне нужно, чтобы основной сайт не индексировался, а сайты на поддоменах индексировались, при условии, что папки с файлами поддоменов находятся в корне?

Что прописать в роботсе для всех ботов?

По-идеи можно закрыть только главный сайт, поддомены даже без робота проиндексируются.

Для основного сайта в корне robots.txt:

User-agent: *

Disallow: /

Для поддоменов в папках robots.txt:

User-agent: *

Allow: /

---------- Добавлено 22.11.2014 в 17:50 ----------

tasja:
Яндекс не индексирует сайт больше 1,5 месяца, пишет, что в роботс стоит запрет на индексацию "/"
Гугл всё проиндексировал без проблем.

В robots.txt такого запрета нет... вот текущий роботс:

User-agent: *
Allow: /
Disallow: /bitrix/
Disallow: /auth/
Disallow: /links/
Disallow: /personal/
Disallow: /search/
Disallow: /test/
Disallow: /auth.php
Disallow: /*?print=
Disallow: /*&print=
Disallow: /*register=yes
Disallow: /*forgot_password=yes
Disallow: /*change_password=yes
Disallow: /*login=yes
Disallow: /*logout=yes
Disallow: /*auth=yes
Disallow: /*backurl=*
Disallow: /*BACKURL=*
Disallow: /*back_url=*
Disallow: /*BACK_URL=*
Disallow: /*back_url_admin=*

Sitemap: http://-------.ru/sitemap.xml

Host: -----.ru

В чём может быть проблема?
Спасибо!

Проблемы не вижу, если только в склейке с другим хостом и на нем может быть другой роботс, Host: -----.ru

Попробуйте отказаться от allow: /

и напишите в Яндекс. Ну или мне в личку урл киньте, посмтрю.

---------- Добавлено 22.11.2014 в 17:51 ----------

enK:
Аналогично, никак не пойму..

аналогично, смотрите куда показывает смайл ☝

B4
На сайте с 27.04.2012
Offline
94
#260

ребята, вы хотя бы откликайтесь, что прошла ошибка или нет, а то как в танке 😂

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий