Ограничить Yahoo доступ к сайту

12
SiriuS
На сайте с 26.02.2005
Offline
244
1516

Как можно ограничить доступ поисковых роботов Yahoo целыми днями роботы сидит на сайте забивает все логи, а люди с Yahoo не идут практически нулевые показатели, так вот вопрос можно как-то сделать что бы Яхо например раз в месяц заходил на сайт?

Новый форум Сочи о переезде на ПМЖ (https://forum-sochi.ru) - Бизнес и инвестиции в Сочи (https://forum-sochi.ru/forums/9/) - Новостройки и застройщики Сочи (https://forum-sochi.ru/forums/10/)
Piligrim
На сайте с 10.04.2005
Offline
145
#1

http://notes.webartsolutions.com/archives/000011.html

http://help.yahoo.com/help/us/ysearch/slurp/slurp-03.html

вот тут можно почитать про нагрузку на сервер

касательно переиндексации поищите http://www.robotstxt.org/wc/faq.html#robotstxt

Директив (http://directiv.ru) - поисковый маркетинг Адвербо (http://adverbo.ru) - продвижение с ежедневными списаниями за топ или трафик
SiriuS
На сайте с 26.02.2005
Offline
244
#2

User-agent: Slurp

Crawl-delay: какое число тут можно написать что бы он раз в месяц заходил?

И не совсем понял (с англиЦким плохо у меня) там сказано:

If the crawler rate is a problem for your server, you can set the delay up to 60 or 300 or whatever value is comfortable for your server.

Что имеется в виду ?

[Удален]
#3

Ну типа 2592000 - раз в 30 дней будет.

Однако лучше так радикально не поступать. Если например 300 поставить - он не больше 300 хитов в сутки сделает, а трафик со временем глядишь и появится.

SiriuS
На сайте с 26.02.2005
Offline
244
#4

Да чего-то он уже год по ресурсу лазиет а трафика практически нет (а может счётчики его не признают?), даже по нужному запросу на первом листе сайт выходит, а толку н0ль.

SiriuS
На сайте с 26.02.2005
Offline
244
#5

Хмы... и если 300 поставить он сделает не более 300 хитов в сутки? А если 2592000 он месяц заходить не будет, чего-то не понимаю.

Александр Тер-Арутюнов
На сайте с 12.04.2004
Offline
72
#6

300 или 2592000 - это задержка между хитами

"Победы - не окончательны, поражения - не смертельны, вопрос в том - достанет ли воли продолжать" - Уинстон Черчиль
C
На сайте с 19.09.2001
Offline
120
#7

SiriuS, цифра означает означает время в секундах между успешными запросами робота, как я и писал.

Т.е. если поставить 30, то после запроса одной страницы, следующую робот запросит не раньше, чем через полчаса.

С уважением, Владимир Чернышов. (не)?путевые заметки (http://chernyshov.kiev.ua/)
Sergey Petrenko
На сайте с 23.10.2000
Offline
482
#8
не раньше, чем через полчаса.

Через 30 секунд, кажется.

C
На сайте с 19.09.2001
Offline
120
#9
Через 30 секунд, кажется.

Да, именно так.

Я ошибся, извиняюсь. :(

SiriuS
На сайте с 26.02.2005
Offline
244
#10

Создал файл robots.txt (раньше не было его)

И вот так написал:

User-agent: Slurp

Crawl-delay: 1000

Больше ничего там нету, что теперь будет Яхо делать и не отразится ли это на других поисковиках.

12

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий