Googlebot

SilverMaster
На сайте с 08.10.2003
Offline
228
1033

Раньше приходило 10-20 ботов и разрывало сайт паррралллельно, теперь приходит один но жрет долго и много.

Инетересно, это у все такое или только у меня?

Из детских комшаров: "А вдруг ночью придет страшный робот!" Из взрослых: "И криво проиндексирует сайт". Не всякий гик добежит до середины поисковой страницы гугла
bejee
На сайте с 24.12.2002
Offline
75
#1

Думаю, ты в этом не одинок. :) По трем сайтам действительно с недавнего времени, приходит сначала один, забирает кучку, потом часов через несколько другой....и так целый день.

Раньше наблюдалось одновременное нашествие с параллельным пожиранием.

Кстати, очень сильно активизировались боты инктоми и мсн. :) Эти бегают по сайту стаями.

Незнание правил форума не освобождает от ответственности.
D
На сайте с 17.02.2004
Offline
82
#2
Как писал bejee Кстати, очень сильно активизировались боты инктоми и мсн. :) Эти бегают по сайту стаями.

Инктоми, мсн - всё это фигня! АскДживс - вот кто самая прожорливая скотина!!! За 2 дня откушал 1.4Г от месяцного лимита!! 😡

O
На сайте с 17.11.2004
Offline
60
#3

Все же приятно, если представить, ботов как маленьких и больших жучков, которые начинают ползать по сайту,... а ты за ними смотришь,.. и подталкивание 'ну давай же, скушай', 'ай молодца','сегодня ты просто ненасытен :)'...

IL
На сайте с 04.10.2003
Offline
196
IDL
#4
Как писал Dzmitry
Инктоми, мсн - всё это фигня! АскДживс - вот кто самая прожорливая скотина!!! За 2 дня откушал 1.4Г от месяцного лимита!! 😡

у меня в день боты жрут 2Гига трафа :)

SilverMaster
На сайте с 08.10.2003
Offline
228
#5
Как писал bejee

Кстати, очень сильно активизировались боты инктоми и мсн. :) Эти бегают по сайту стаями.

MSN обычно ходит один - но сьедает 5-6 тыщ страниц.

А вот гугль сегодня на три-четыре сайта снова стаей налетел. Унес 10к страниц...

Странно - может на разных датацентрах прожиралки по разному настроены?

D
На сайте с 17.02.2004
Offline
82
#6
Как писал IDL у меня в день боты жрут 2Гига трафа :)

Каждый день? Этож что ж за сайт такой? Страниц 50-70К наверное ...

IL
На сайте с 04.10.2003
Offline
196
IDL
#7
Как писал Dzmitry
Каждый день? Этож что ж за сайт такой? Страниц 50-70К наверное ...

сервер с дорами

D
На сайте с 17.02.2004
Offline
82
#8

Много доров видно :)

ДЖАЗЗ!
На сайте с 10.02.2004
Offline
285
#9
Как писал Dzmitry
Инктоми, мсн - всё это фигня! АскДживс - вот кто самая прожорливая скотина!!! За 2 дня откушал 1.4Г от месяцного лимита!! 😡

Да, все по многу жрать стали, но вот Gigabot бывает всех уделывает. Ему-то столько зачем, непойму...

FM
На сайте с 21.04.2004
Offline
125
#10
Как писал ДЖАЗЗ!


Да, все по многу жрать стали, но вот Gigabot бывает всех уделывает. Ему-то столько зачем, непойму...

наверно марку хотят держать, чем свежее контент тем больше народа будет валить на этот поисковик, этож по идее поисковик можно спроэцировать как новостной сайт, чем свежее новости, тем больше посещаемость, вот когда гугль загребёт весь рынок, вот тогда и успокоится....

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий