- Поисковые системы
- Практика оптимизации
- Трафик для сайтов
- Монетизация сайтов
- Сайтостроение
- Социальный Маркетинг
- Общение профессионалов
- Биржа и продажа
- Финансовые объявления
- Работа на постоянной основе
- Сайты - покупка, продажа
- Соцсети: страницы, группы, приложения
- Сайты без доменов
- Трафик, тизерная и баннерная реклама
- Продажа, оценка, регистрация доменов
- Ссылки - обмен, покупка, продажа
- Программы и скрипты
- Размещение статей
- Инфопродукты
- Прочие цифровые товары
- Работа и услуги для вебмастера
- Оптимизация, продвижение и аудит
- Ведение рекламных кампаний
- Услуги в области SMM
- Программирование
- Администрирование серверов и сайтов
- Прокси, ВПН, анонимайзеры, IP
- Платное обучение, вебинары
- Регистрация в каталогах
- Копирайтинг, переводы
- Дизайн
- Usability: консультации и аудит
- Изготовление сайтов
- Наполнение сайтов
- Прочие услуги
- Не про работу
Все что нужно знать о DDоS-атаках грамотному менеджеру
И как реагировать на "пожар", когда неизвестно, где хранятся "огнетушители
Антон Никонов
Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий
Здравствуйте. Прописала такой robots http://samaja-krasivaja.ru/robots.txt . При этом индексируются страницы вида: http://samaja-krasivaja.ru/feed; http://samaja-krasivaja.ru/krasota-i-uxod-za-soboj/feed . В robots же прописано Disallow: */feed/, значит, они должны быть закрыты? Как мне закрыть эти страницы от индексации?
В какой ПС индекируются?
В http://webmaster.yandex.ru/robots.xml страница
http://samaja-krasivaja.ru/krasota-i-uxod-za-soboj/feed не запрещена для индексации.
И в яндексе, и в гугле индексируются
Сказочка, следите за руками:
Disallow: */feed/
http://samaja-krasivaja.ru/feed/ - закрыта
http://samaja-krasivaja.ru/feed - не закрыта.
Просто уберите слеш на конце.
P.S. Две строчки дублируют друг друга
Disallow: /*?*
Disallow: /*?
Оставьте вторую.
Kost, спасибо. Странно, на других сайтах robots аналогичный, но индексировалось всё верно.
Возможно робот еще не посетил feed страницы на остальных ваших сайтах
Stream2020, другие сайты старше.
Попробуйте проверить через http://webmaster.yandex.ua/robots.xml
Можно добиться хороших и нужных результатов