в robots.txt закрыто неск-ко разделов, а Яндекс всё равно..

[Удален]
784

а Яндекс всё равно индексирует страницы из этих разделов. пытаюсь удалить страницы в "Удалить URL", говорит, "Нет оснований для удаления. Сервер не возвращает код 404, индексирование не запрещено ни в robots.txt, ни метатегом noindex."

фрагмент робота:

..

Disallow: /basket/

Disallow: /akcii/

..

ну, и ещё несколько подобных строчек. используется только директива Disallow для запрета разделов.

т.е. Allow, которая могла бы что-то из закрытого разрешить, нет..

помогите одолеть робота вместе с яндексом, пожал-ста..

Talisman13
На сайте с 20.01.2007
Offline
211
#1

bulavka, пожалуйста весь robots.txt в студию.

P.S. И еще. В Яндекс вебмастере есть возможность проверить-проанализировать robots.txt, не пользовались ли такой штукой? Может есть ошибка все таки.

K
На сайте с 31.01.2001
Offline
737
#2

Покажите весь robots.txt и URL, которые вы удаляете.

Выделенные полосы в Москве (http://www.probkovorot.info) привели к снижению скорости до 23%.
Jaf4
На сайте с 03.08.2009
Offline
804
#3
bulavka:

Disallow: /basket/
Disallow: /akcii/

/basket/ - директория с файлами? Или часть урла?

New! NVMe VPS от SmartApe.ru (https://goo.gl/eoYYkS)
[Удален]
#4

фрагмент роботс.тхт для яндекса такой:

User-Agent: Yandex

Disallow: /?

Disallow: /compare/

Disallow: /basket/

Disallow: /akcii/

Disallow: /vip_bukety2/

Disallow: /ekonom_bukety2/

Disallow: /srednie_bukety/

Disallow: /obychnye_bukety/

Disallow: /svadebnye_bukety2/

Disallow: /po_cvetu/

Disallow: /segodnya_dostavili/

Host: .........ru

Jaf4,

/basket/ - это корзина магазина и похоже, что это конец урла, т.к. клик по любой ссылке уводит из этого раздела, т.е. /basket/ из адреса пропадает..

Talisman13,

в Вебмастер яндекса закинули его, пишет, какие секции-строки используются, про ошибки ни слова, по кр. мере ничего красного или какого-то текста, говорящего о том, что есть ошибки, не вижу..

не знаю, что означает запрет вот этой штуки:

Disallow: /?

может, в ней всё дело?

K
На сайте с 31.01.2001
Offline
737
#5

Пока ничего не ясно, нужно видеть весь файл +

Kost:
и URL, которые вы удаляете.

Если будете и дальше шифроваться, повешу по 2 балла за флуд.

Ида, в этом разделе есть FAQ, там есть ссылка на описание robots.txt Яндекса, откройте и читайте внимательно, больше вам ничего не потребуется.

Подсказка: пути в Disallow указываются от корня сайта.

F
На сайте с 10.07.2010
Offline
15
#6
bulavka:

помогите одолеть робота вместе с яндексом, пожал-ста..

Я читал короткие и понятные статьи о robots.txt на сайте: http://robotstxt.org.ru/

Если не хотите светить свой файл, то обращайтесь в поддержку яндекса.

Обычно проблема "в индекс не лезет", а тут проблема наоборот.

[Удален]
#7

всем спасибо!.

вот, в чём ошибка была, не учли, что

..пути в Disallow указываются от корня сайта.

т.е. правильно Яндекс писал, что они не закрыты в роботе, те страницы..

спасибо ещё раз..

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий