Почему страница в индексе?

Юпи-с
На сайте с 30.07.2006
Offline
230
445

Странно, в роботс прописано

User-agent: Yandex

Disallow: /forum/index.php

а захожу в панель вебмастера и вижу в списке проиндексированных страниц http://shophelp.ru/forum/index.php

Панель неправильно показывает?

Цахес
На сайте с 15.03.2007
Offline
205
#1
Юпи-с:
Панель неправильно показывает?

Правильно панель показывает.

Роботс наверно недавно создали?

P.S. И зачем вам еще один Host в общей секции? Одного, в секции для Яндекса, вполне достаточно.

- Хорошие и плохие тексты для ваших сайтов (http://www.textsale.ru/team57397.html). - Удаленная работа. Вакансия копирайтера/рерайтера. (http://advego.ru/6myq8sgvKk) - Быстрое составление семантического ядра (https://topvisor.ru/?inv=39380).
[Удален]
#2

когда вы сайт добавляли, вам же приходилось ждать пока он проиндексируется, так вот теперь тут ждите пока робот уберет из индекса сайт..... и проверьте наличие тега <meta name="robot" content="all"> или "index" Если же атрибут "all" будет стоять хоть на одной из страниц сайта, то робот автоматом будет бегать по всем страницам сайта и его индексировать.

K. Ermakov
На сайте с 10.12.2004
Offline
328
#3
Цахес:
Роботс наверно недавно создали?

Похоже на то. Ну, или модифицировали.

Где-то в районе 25 мая 2008 г. 19:22:08 :)

С уважением, Константин Ермаков, absite.ru: онлайн кроссворды (http://absite.ru/); searchsuggest.ru: поисковые подсказки доставляют (http://searchsuggest.ru/).
ViZa
На сайте с 20.10.2007
Offline
93
#4
Юпи-с:
Странно, в роботс прописано

Укажите яше страницу, которую надо удалить через форму удаления из индексации и ждите. Не все сразу.

Хороший трафик от 2.5 у.е. за 1000 уников здесь (http://ruclicks.com/?ref=ViZa) На колбаску я зарабатываю здесь (http://www.setlinks.ru/?pid=7171) Оценка - стоимости поискового продвижения (http://seobudget.ru/seo/de381081332dfb3ad140ca7ba5d71881/)
Юпи-с
На сайте с 30.07.2006
Offline
230
#5

Спасибо всем.

alger
На сайте с 29.05.2008
Offline
51
#6

Есть несколько встречных вопросов:

1) Почему в robots.txt на указанном сайте директивы закрытия от индексации для Яндекса (Yandex) и для всех остальных роботов (*) повторяются? Значит ли это, что если Яндекс встречает User-agent: Yandex, то он игнорирует User-agent: *, который идет после него?!

2) Что означает директива Host: shophelp.ru

3) Что означает директива Sitemap: /sitemap.xml - ее воспринимает только Google или Яндекс тоже?!

"People fail forward to success." Mary Kay Ash

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий