Гоша сейчас индексирует все что запрещено?

ОИ
На сайте с 26.03.2010
Offline
82
747

В индексе появились страницы которые запрещены robots.txt.

User-Agent: *

Disallow: /out/

Disallow: /user/

Disallow: /cache/

Disallow: /engine/

Disallow: /language/

Disallow: /templates/

Disallow: /favorites/

Disallow: /backup/

Disallow: /lastnews/

Disallow: /catalog/

Disallow: /newposts/

Disallow: /tags/

Disallow: /addnews.html

Disallow: /*?*

Disallow: /*/print*

Disallow: /*print

YD
На сайте с 03.06.2008
Offline
363
#1

Ему и раньше эти запреты не указ. Команда, но не указ. Борщ!

Sower
На сайте с 30.12.2009
Offline
651
#2

В htaccess надо запрещать, тогда и захочет, ничего не получит. :)

__________________Бесплатная накрутка ПФ: посещаемость, просмотры, переходы с поисковиков по ключевикам, итд.
__________________Все посетители живые, не боты. (http://livesurf.ru/promo/80271)
vandamme
На сайте с 30.11.2008
Offline
675
#3

индексирует все подряд, вы это указали сразу или потом?

Mish-ka
На сайте с 08.06.2011
Offline
414
#4

Есть такое дело.

Индексирует...выкидывает...индексирует...выкидывает.

Всемирная история - банк империал.

Серч уже не торт => https://se.guru
XPraptor
На сайте с 15.10.2004
Offline
333
#5

Ну, а чего тогда Каттс просил ВМ-ов не блочить роботсом скрипты аджаксовские и css, чтобы гугл мог их индексить и потренироваться? Значит ваш роботс совсем не учитывается гошей, поэтому и индексит. Значит где то ошибка в нем, и гугл просто его игнорит, руководствуясь тегами в самих страницах уже. У вас на страницах запрещенных - noindex nofollow есть в метах?

sanitarn
На сайте с 20.08.2007
Offline
199
#6

Google оставляет в индексе урл, но не заносит в индекс страницу, посмотрите есть ли у вас сохраненная копия?

финансовый ответ (https://finansanswer.ru) Займ для безработных (https://finansanswer.ru/mikrozajmy/bezrabotnym/)
VB
На сайте с 24.11.2010
Offline
61
#7

Ребята, подскажите команды через htaccess. Ну или директиви, какими нужно закрывать папки и фалы!

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий