Вопрос про роботс.тхт

stasnokia
На сайте с 19.06.2008
Offline
149
447

Например. Есть категория /category, которая закрыта через роботс от индексации. Однако статьи в этой категории открыты к индексации: /category/privet, /category/article и т.п. Так вот, смогут ли ПС добраться до статей, учитывая что ссылки на статьи стоят только с категории, которая, в свою очередь, закрыта от индексации.

Заранее благодарен за ответ.

getnaked
На сайте с 13.02.2011
Offline
62
#1

Как я помню, проблему решит:

Disallow: /category$

Мой блог (http://getked.ru)
W
На сайте с 21.01.2009
Offline
172
#2

По robots.txt все правильно написали

Плюс желательно добавить карту сайта и xml sitemap, тогда статьи скорее всего проиндексируются даже если робот не найдет на них ссылки на сайте из за закрытой /category

Евгений Костин
На сайте с 15.04.2010
Offline
109
#3

Внутренние будут проиндексированы, даже если не будет Sitemap.xml. Робот ПС в любом случае будет ходить по сайту, даже (о ужас!!!11) по закрытым в Robots.txt страницам. Просто закрытые URL не будут участвовать в поиске.

➤ Оптимизация и продвижение сайтов | SEO-аудиты | https://kostin.tv

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий