- Поисковые системы
- Практика оптимизации
- Трафик для сайтов
- Монетизация сайтов
- Сайтостроение
- Социальный Маркетинг
- Общение профессионалов
- Биржа и продажа
- Финансовые объявления
- Работа на постоянной основе
- Сайты - покупка, продажа
- Соцсети: страницы, группы, приложения
- Сайты без доменов
- Трафик, тизерная и баннерная реклама
- Продажа, оценка, регистрация доменов
- Ссылки - обмен, покупка, продажа
- Программы и скрипты
- Размещение статей
- Инфопродукты
- Прочие цифровые товары
- Работа и услуги для вебмастера
- Оптимизация, продвижение и аудит
- Ведение рекламных кампаний
- Услуги в области SMM
- Программирование
- Администрирование серверов и сайтов
- Прокси, ВПН, анонимайзеры, IP
- Платное обучение, вебинары
- Регистрация в каталогах
- Копирайтинг, переводы
- Дизайн
- Usability: консультации и аудит
- Изготовление сайтов
- Наполнение сайтов
- Прочие услуги
- Не про работу
В 2023 году 36,9% всех DDoS-атак пришлось на сферу финансов
А 24,9% – на сегмент электронной коммерции
Оксана Мамчуева
Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий
Конструкция вида Disallow: /stranica.html? не помогает защититься от ползанья бота Спутника по страницам вида stranica.html?p=jhdfhfd. И что прикажете с ним делать? Банить по IP только?
---------- Добавлено 29.07.2014 в 09:34 ----------
И, кстати, такая вещь тоже не дает эффекта:
User-Agent: SputnikBot
Crawl-delay: 60
Запросы бота все равно валятся и валятся.
Забаньте его. Толку от него, как от быка молока
А где логи?
А где логи?
Вы мне не верите? :D
наверное он не знает о том, что такое robots.txt
Конструкция вида Disallow: /stranica.html? не помогает защититься от ползанья бота Спутника по страницам вида stranica.html?p=jhdfhfd. И что прикажете с ним делать? Банить по IP только?
---------- Добавлено 29.07.2014 в 09:34 ----------
И, кстати, такая вещь тоже не дает эффекта:
User-Agent: SputnikBot
Crawl-delay: 60
Запросы бота все равно валятся и валятся.
Может, потому что правило должно выглядеть так:
Disallow: /stranica.html?*
Спецсимвол '*' означает любую (в том числе пустую) последовательность символов.
Вы мне не верите? :D
А должны?
Вот тут http://corp.sputnik.ru/webmaster написано, что robots.txt учитывается. Ещё там написано, куда писать о проблемах.
Может, потому что правило должно выглядеть так:
Disallow: /stranica.html?*
Нет, все у меня правильно. Еще с тех пор, когда поисковики не знали, что такое звездочка.
Яндекс с Гуглом все прекрасно понимают, а вот Спутник невменяем.
---------- Добавлено 29.07.2014 в 18:56 ----------
Ещё там написано, куда писать о проблемах.
А за это спасибо. Ранее страницу по диагонали просматривал и мыла не заметил.
Спутник игнорирует robots.txt
от государственного поиска по идее никто прятаться не должен
По новым правилам robots.txt нужно регистрировать в Роскомнадзоре. С собой возьмите паспорт, копии паспорта (обязательно со страницей прописки), налоговую декларацию и объяснительную в двух экземплярах - что вам нужно скрыть от Спутника и почему. На вашем экземпляре поставят пометку о входящих и через месяц на адрес регистрации ждите ответ.
По новым правилам robots.txt нужно регистрировать в Роскомнадзоре.
Я нерезидент. Боюсь, вообще иностранным агентом объявят, в лучшем случае - зарегистрируют по двойному тарифу.