Запрет посещения сайта поисковыми роботами.

FS
На сайте с 08.03.2011
Offline
91
847

Подскажите, пожалуйста, каким образом можно поставить полный запрет на посещение сайта поисковыми роботами? Я думаю, что это как-то должно осуществляться через .htaccess, но не знаю как. Задача такая, чтобы роботы поисковых систем вообще не могли попасть на сайт. Закрывать через robots.txt не предлагать, т.к. нужно не просто закрыть от индексации страницы, а сделать так, чтобы поисковики не могли вообще попасть на сайт.

SiriuS
На сайте с 26.02.2005
Offline
244
#1

Через .htaccess можно внести запрет, указав возможные IP адреса поисковых роботов.

Новый форум Сочи о переезде на ПМЖ (https://forum-sochi.ru) - Бизнес и инвестиции в Сочи (https://forum-sochi.ru/forums/9/) - Новостройки и застройщики Сочи (https://forum-sochi.ru/forums/10/)
vimpel77
На сайте с 27.03.2012
Offline
141
#2
SiriuS:
Через .htaccess можно внести запрет, указав возможные IP адреса поисковых роботов.

ну и где взять эти 100500 IP?))

не знаю, как это сделать через .htaccess, но если сделать вход только зарегистрированным участникам, то робот дальше главной не уйдет.

А вообще страшно представить что это за ресурс, куда поисковикам ходить не надо

Стратегические просчеты невозможно компенсировать тактическими успехами
L
На сайте с 03.05.2006
Offline
171
#3
vimpel77:
А вообще страшно представить что это за ресурс, куда поисковикам ходить не надо

Ну например всякие сайты кеши индексировать не надо. Типа вот такого encrypted-tbn1.gstatic.com

A
На сайте с 04.11.2007
Offline
134
#4
Fish_su:
каким образом можно поставить полный запрет на посещение сайта поисковыми роботами?

Никаким!

Не получится отличить заход юзера от робота. IP и USER_AGENT не спасёт.

Решение с другой стороны. Запретить всем и разрешить "проверенным товарищам".

SiriuS
На сайте с 26.02.2005
Offline
244
#5

Те IP адреса, что сильно активно себя ведут и парой выкачивают сайты в ручную заношу их в .htaccess чтобы уменьшить нагрузку на сервер.

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий