Вопрос по robots.txt

12
ivmas
На сайте с 12.01.2010
Offline
121
582

Добрый день, моему сайту 5-й месяц.

В robots.txt прописано

User-Agent: *

Disallow: /users/

Disallow: /registration/

Disallow: /login/

Disallow: /search/tag/

Disallow: /comments/

Прописываю в гугле или яндексе в строке поиска site:site.ru/users/ или любой другой раздел из robots.txt показывает, что страница в индексе. Почему так? Хотя мне нужно убрать все эти ссылки с индекса.

Toan
На сайте с 06.08.2008
Offline
195
#1

ivmas, а когда вы это прописали в robots.txt?

Простейший способ сбора НК ключей (http://mutagen.ru/?r=55527), дающих трафик. Всего 30 рублей за 100 шт. А также автоматическая группировка (http://semparser.ru/p/1506) запросов по страницам для эффективного продвижения + экономия на текстах.
imd
На сайте с 23.05.2009
Offline
102
imd
#2

удалите через вебмастер

ivmas
На сайте с 12.01.2010
Offline
121
#3

Месяца 3 назад прописал robots

У меня с главной страницы идет ссылка на "пользователи" /users/

В индексе есть страница users, а все остальные пользователи не в индексе.

Disallow: /users/

А я хочу, что бы и этого раздела в индексе не было. Так как очень важно с главной страницы передавать вес куда нужно.

K
На сайте с 31.01.2001
Offline
737
#4
ivmas:
В индексе есть страница users

Выдается Title и есть сохраненная копия?

Выделенные полосы в Москве (http://www.probkovorot.info) привели к снижению скорости до 23%.
ivmas
На сайте с 12.01.2010
Offline
121
#5
Kost:
Выдается Title и есть сохраненная копия?

Да. Но только одной страницы. Пользователей много на сайте, их в индексе нету. А вот именно страница site.ru/users есть в индексе (тайтл и сохр. копия) и в гугле и яндексе, как не странно

K
На сайте с 31.01.2001
Offline
737
#6
ivmas:
site.ru/users

Если вы запретили /users/, то /users не запрещено индексировать.

/users/ не является подстрокой /users .

А что вас удивляет?

ivmas
На сайте с 12.01.2010
Offline
121
#7

Простите за мою без грамотность, а как убрать тогда и страницу users с индекса?

Что нужно прописать в robots.txt ? Так как у меня таких страниц много! Нужно это скорее сделать. Спасибо

K
На сайте с 31.01.2001
Offline
737
#8
ivmas:
как убрать тогда и страницу users с индекса?

Как ни странно,

Disallow: /users

Открою страшную тайну. Чтобы запретить индексацию страницы, нужно написать ее адрес после директивы Disallow (и ничего не дописывать в конце ее адреса!).

ivmas:
Да. Но только одной страницы.
ivmas:
пользователей много на сайте, их в индексе нету. А вот именно страница site.ru/users есть в индексе
ivmas:
Так как у меня таких страниц много!

Почему вы путаетесь в показаниях? Каких страниц много?

imd
На сайте с 23.05.2009
Offline
102
imd
#9
ivmas:
Простите за мою без грамотность, а как убрать тогда и страницу users с индекса?
Что нужно прописать в robots.txt ? Так как у меня таких страниц много! Нужно это скорее сделать. Спасибо

В гугл веб мастер есть такая возможность Конфигурация сайта >Доступ для сканера> Удалить URL

пишете users и вибираете Удалить каталог

И все ссылки, что начинаеться на users будут удалены на следующий день.

В яндексе не сталкивался, должно быть аналогично

ivmas
На сайте с 12.01.2010
Offline
121
#10

Понял, всего лишь убрать косую.

Да есть страницы, аля "site.ru/pravila.html", "site.ru/o-proekte.html" и т.д. Ссылки на них есть на главной странице, а мне их закрыть нужно! Теперь ясно, что нужно не так

Disallow: /passremind.html/

Disallow: /pomosch.html/

Disallow: /my.html/

Disallow: /pravila.html/

Disallow: /kontakty.html/

Disallow: /o-proekte.html/

А вот так

Disallow: /passremind.html

Disallow: /pomosch.html

Disallow: /my.html

Disallow: /pravila.html

Disallow: /kontakty.html

Disallow: /o-proekte.html

Я правильно все понял?!

12

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий