- Поисковые системы
- Практика оптимизации
- Трафик для сайтов
- Монетизация сайтов
- Сайтостроение
- Социальный Маркетинг
- Общение профессионалов
- Биржа и продажа
- Финансовые объявления
- Работа на постоянной основе
- Сайты - покупка, продажа
- Соцсети: страницы, группы, приложения
- Сайты без доменов
- Трафик, тизерная и баннерная реклама
- Продажа, оценка, регистрация доменов
- Ссылки - обмен, покупка, продажа
- Программы и скрипты
- Размещение статей
- Инфопродукты
- Прочие цифровые товары
- Работа и услуги для вебмастера
- Оптимизация, продвижение и аудит
- Ведение рекламных кампаний
- Услуги в области SMM
- Программирование
- Администрирование серверов и сайтов
- Прокси, ВПН, анонимайзеры, IP
- Платное обучение, вебинары
- Регистрация в каталогах
- Копирайтинг, переводы
- Дизайн
- Usability: консультации и аудит
- Изготовление сайтов
- Наполнение сайтов
- Прочие услуги
- Не про работу
В 2023 году 36,9% всех DDoS-атак пришлось на сферу финансов
А 24,9% – на сегмент электронной коммерции
Оксана Мамчуева
Маркетинг для шоколадной фабрики. На 34% выше средний чек
Через устранение узких мест
Оксана Мамчуева
Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий
Подскажите, пожалуйста, как можно реализовать следующее.
Для скачивания файла с сайта я использую перенаправление в виде ссылки
http://mysite.ru/redirect?url=http://mysite.ru/files/file.zip
в результате чего человек попадает на страницу где уже скачивается нужный файл.
(в адресной строке урл - "http://mysite.ru/redirect?url=http://mysite.ru/files/file.zip")
Так вот, как запретить яндекс-боту доступ к подобным страницам?
Проверять User-Agent
Ставить в самое начало файла сразу после RewriteEngine On
Код:
RewriteCond %{HTTP_USER_AGENT} Yandex
RewriteRule ^redirect - [L,F]
Ставить в самое начало файла сразу после RewriteEngine On
Спасибо, а можно как-то проверить, что оно сработало?
Поставьте в Firefox User Agent Switcher и прикиньтесь Яндексом.
Кстати, затея полезная, тоже займусь.
По запросу проверка заголовков http находится полно онлайн сервисов, например http://www.bertal.ru/
robots.txt нынче не в моде?
Это же раздел "Администрирование серверов".
Тоже самое, что если вы придёте к хирургу с тонзилитом, он сразу предложит вам выдрать гланды :)
Более мягкое лечение предложат в "Веб-строительстве".
robots.txt нынче не в моде?
robots.txt это рекомендация для поисковика, физически ему ничто не мешает полезть туда, куда его не просят.
Единственная дилемма — сохранение баланса между секъюрностью и риском заработать фильтр за клоакинг.
риском заработать фильтр за клоакинг.
А какие могут быть обиды, если в robots.txt для яндекса явно указано, что "туда нельзя".
В .htaccess — это так, на всякий случай, если вдруг всё-таки ткнётся, то убедится, что действительно нельзя :)
robots.txt это рекомендация для поисковика, физически ему ничто не мешает полезть туда, куда его не просят.
Смотрим логи. В первую очередь Яндекс скачивает с сайта robots.txt. Туда, на что стоит запрет, робот не лезет.