Сайт не индексируется из-за robots.txt, хотя запрещающих правил нету

12
Цахес
На сайте с 15.03.2007
Offline
205
#11
abdula666:
Смотрю в разделе Индексирование Яндекс Вебмастера

И что там пишут?

Аддурилка говорит что сайт успешно добавлен. По мере обхода робота он будет проиндексирован и станет доступным для поиска.

З.Ы.

abdula666:

Disallow: *?sort

Для таких вещей Clean-param можно использовать.

- Хорошие и плохие тексты для ваших сайтов (http://www.textsale.ru/team57397.html). - Удаленная работа. Вакансия копирайтера/рерайтера. (http://advego.ru/6myq8sgvKk) - Быстрое составление семантического ядра (https://topvisor.ru/?inv=39380).
komdir
На сайте с 14.10.2009
Offline
430
#12

Стандартный вариант, все остальное зависит от доработок и модификации.

User-Agent: *

Disallow: /pricelist/

Disallow: /search/

Disallow: /*sort=*

Disallow: /auth/

Disallow: /cart/

Disallow: /glav/

Disallow: /checkout/

Disallow: /feedback/

Disallow: /installer/

Disallow: /login/

Disallow: /logout/

Disallow: /myaccount/

Disallow: /contact_info/

Disallow: /address_book/

Disallow: /order_history/

Disallow: /address_editor/

Disallow: /order_status/

Disallow: /published/SC/html/scripts/

Disallow: /published/wbsadmin/

Disallow: /register/

Disallow: /remind_password/

Disallow: /*view=*

Disallow: /*/reviews/

P.S. Найдите 10 отличий.

asto
На сайте с 13.10.2005
Offline
180
#13
/product/opilka-ovcharkavqsota34-sm-ar15-330/
к примеру, беру эту ссылку. Никаким правилом она не закрыта и при проверке в Яндекс Вебмастере пишет что она разрешена

Учитесь читать и думать о том, что Вам пишут, ибо ответ тут

2. кто Вас научил сделать такой robots.txt ? Вы сами все закрыли.
alexlsd
На сайте с 17.09.2009
Offline
94
#14

Была такая ерунда с одним сайтом, написал письмо в Платонам.

Ответ: Дело в том, что 10.11.10 робот нашел в robots.txt вашего сайта директивы,

которые запрещали его индексирование. В данный момент эти директивы удалены,

но после робот обнаружил, что главная страница вашего сайта отдает роботу код

перенаправления, поэтому он не смог проиндексировать сайт.

Сейчас перенаправление снято. Робот должен будет начать индексировать сайт в

ближайшее время. Подождите, пожалуйста, немного.

Мощные VDS сервера на SSD от 250р, аптайм 99,9%, за скидками и тестом писать в ЛС (http://www.ihor.ru/?from=67062)
WH
На сайте с 28.03.2010
Offline
78
#15

Аналогичная ситуация с индексацией нескольких сайтов, причем на сайтах robots.txt вообще отсутствовал, отдавал 404 ошибку.

Вебмастер же говорит, что сайт запрещен к индексации именно в robots.txt.

Создали robots.txt, с парой директив, что бы просто был. Робот на сайт заходит часто, а ситуацию с robots.txt не спешит исправлять вот уже больше месяца.

Платон молчит, уже и не знаю что делать :(

12

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий