- Поисковые системы
- Практика оптимизации
- Трафик для сайтов
- Монетизация сайтов
- Сайтостроение
- Социальный Маркетинг
- Общение профессионалов
- Биржа и продажа
- Финансовые объявления
- Работа на постоянной основе
- Сайты - покупка, продажа
- Соцсети: страницы, группы, приложения
- Сайты без доменов
- Трафик, тизерная и баннерная реклама
- Продажа, оценка, регистрация доменов
- Ссылки - обмен, покупка, продажа
- Программы и скрипты
- Размещение статей
- Инфопродукты
- Прочие цифровые товары
- Работа и услуги для вебмастера
- Оптимизация, продвижение и аудит
- Ведение рекламных кампаний
- Услуги в области SMM
- Программирование
- Администрирование серверов и сайтов
- Прокси, ВПН, анонимайзеры, IP
- Платное обучение, вебинары
- Регистрация в каталогах
- Копирайтинг, переводы
- Дизайн
- Usability: консультации и аудит
- Изготовление сайтов
- Наполнение сайтов
- Прочие услуги
- Не про работу
Все что нужно знать о DDоS-атаках грамотному менеджеру
И как реагировать на "пожар", когда неизвестно, где хранятся "огнетушители
Антон Никонов
В 2023 году Одноклассники пресекли более 9 млн подозрительных входов в учетные записи
И выявили более 7 млн подозрительных пользователей
Оксана Мамчуева
Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий
в общем, есть каталог. Есесно забаненный пожизненно :) Ещё летом.
В роботсе прописал сначала директивы для всех роботов. А потом директива:
User-agent: Yandex
Host: ***.ru
Disallow: /
В общем, индексатор понимает, максимум рыпается на морду. А вот зеркальщик шарится по сайту.
Ещё деталь при попытке добавить сайт в аддурл как ***.ru яндекс не пускает, говорит, что этот сайт является зеркалом www.***.ru . Ну, а когда пробую добавить как www.***.ru то говорит, что сайт запрещён к индексации в роботс. Что и понятно..
Хотя по логике должен в любом случае говорить...
Ну есть ещё моменты, но о них я промолчу :)
Dreammaker, зеркальщик ходит по страницам, запрещенным в robots.txt
В свое время шла очень большая дискуссия, суть которой свелась к тому, что robots.txt написан для роботов, а зеркальщик - это "не совсем робот", поэтому директивам тем он не следует.
В общем, зеркальщик это не индексатор. Он проверяет страницы на идентичность, но в выдачу они все равно не попадают.
По второму пункту: при добавлении сайта сперва отрабатывается проверка на зеркала (которая вам и говорит, что сайт является зеркалом другого), а при добавлении основного домена дело доходит до проверки robots.txt, которая и говорит о запрете индексации.
1.
User-agent: Yandex
Host: ***.ru
Disallow: /
Так оно правильней будет..
User-agent: Yandex
Disallow: /
Host: ***.ru
2. Disallow: / это - означает "я не хочу чтоб /это* было в выдаче", оно и не появляется ))
Спасибо за ответы.
semenov, я недавно об этом тоже подумал был. Просто давно на этот каталог не обращал внимания, там даже регистрации уже нет. Нужно будет и так попробовать. Зачем мне лишние заходы бота на аккаунте :)
SergoZD, так фишка в том, что он не совсем точно понимает какое зеркало указано. Ему ж написано ***.ru , а он считает наоборот..
Хотя в принципе это не столь и важно. :)