бот сильно грузит сервак

12
zwolf
На сайте с 14.05.2007
Offline
33
2027

ребята помогите плиз. мой сервак сильно грузит бот яндекса. что делать?

сервер и так очень мощный.

может быть нужно как то ограничить его деятельность, тем более что информация на страницах почти не обновляется.

G
На сайте с 20.06.2008
Offline
48
#1

Прописать заголовок last modified.

Что у вас на страницах о времени обновления написано?

[Удален]
#2
Прописать заголовок last modified.

А что, это помогает? 😂

zwolf
На сайте с 14.05.2007
Offline
33
#3
greatorange:
Прописать заголовок last modified.
Что у вас на страницах о времени обновления написано?

у меня всего три тэга

<meta http-equiv="Content-Type" content="text/html; charset=windows-1251">

<title></title>

<META NAME="DESCRIPTION" CONTENT="">

<META NAME="KEYWORDS" CONTENT="">

но помоему ваш вариант вряд ли поможет

помоему кроме этих тегов яндекс никакие другие больше не воспринимает

G
На сайте с 20.06.2008
Offline
48
#4

Miha Kuzmin (KMY), а какие варианты?

закрыть от индексации? ;)

или ограничение на количество обращений в минуту с одного адреса?

zwolf
На сайте с 14.05.2007
Offline
33
#5

Ребята HELP!

у меня нагрузка на сервак уже 10-12 процентов из положенных 5

и почти 99% всей нагрузки дает яндекс бот

Дайте совет, кто с этим сталкивался

Может сервак в штатах зарегать, чтобы пинга побольше было?

G
На сайте с 20.06.2008
Offline
48
#6

http://help.yandex.ru/webmaster/?id=995296#995336

Вы перегрузили мой сервер. Пожалуйста, прекратите!

Повлиять на поведение робота можно при помощи файла robots.txt. Напишите в нем запрет для робота Яндекса на обращение к скриптам, которые сильно загружают сервер.

Разберитесь, что именно грузит

zwolf
На сайте с 14.05.2007
Offline
33
#7

а как понять что грузить ведь в панели управления нет никаких данных по этому вопросу.

мне вот кажется что грузит сервер бот яндекса.

на сайте более 20000 страниц, и таких сайтов более 20

[Удален]
#8
Miha Kuzmin (KMY), а какие варианты?

Это к тому, что не поможет. Надо или ims обрабатывать, или в роботсе позакрывать всю порнуху. Или смотреть, что за трабла с скриптами. Или т.п. и т.д. Вариантов масса.

а как понять что грузить ведь в панели управления нет никаких данных по этому вопросу.
мне вот кажется что грузит сервер бот яндекса.

Когда кажется... Тогда уж более вероятно, что слурп, мсн, гуглбот или вебальта грузят.

zwolf
На сайте с 14.05.2007
Offline
33
#9

а как позакрывать например от гугла, рамблера, мсн, и прочей лабуды свой сайт от их индексации?

G
На сайте с 20.06.2008
Offline
48
#10

zwolf,

мне вот кажется что грузит сервер бот яндекса.

Может не бот совсем?

Может просто движок кривой, чуть больше посещаемость и поехало?

А посетителей откуда приводить будете, если сайт не будет в "гугле, рамблере, мсн, и прочей лабуде"? ;)

http://help.yandex.ru/webmaster/?id=996567

User-agent: googlebot

Disallow: /

Названия основных роботов популярных поисковых систем:

Google – «googlebot»;

Яндекса – «Yandex»;

Рамблера – «StackRambler»;

Yahoo! – «Yahoo! Slurp»;

MSN – «msnbot»

12

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий