Активность индексатора

12
S
На сайте с 15.02.2005
Offline
44
1442

Поглядите плиз логи ниукого яша щас не индексирует?

какая то зверзкая активность у него щас

У меня ситуация слудующая. На сервеере около 100 сайтов, яша щас начал индексивровать и по логам сожрал не имоверное количество страниц с каждого сайта.

Что за такая активность у него?

Никогда такого не было. Чуть ли сервак своей дДОС атакой не свалил мне =)

программирую с 12 лет на всём и вся
AVV
На сайте с 31.07.2006
Offline
84
AVV
#1

Не знаю, у меня все как обычно на всех сайтах.

Зато StackRambler/2.0 (MSIE incompatible) вовсю шерстит :) . Но, тоже в порядке нормы.

P.S. Или как апорт шерстит? 😂

S
На сайте с 20.09.2006
Offline
1
#2

Не более как обычно- только фавиконки смотрит.

Kokh
На сайте с 24.05.2006
Offline
58
#3

Yandex/1.01.001 (compatible; Win16; I) навещал, в 21.30, сервак держится :)

WebAlta Crawler/1.3.19 постоянно сидит на сайтах

Kokh
На сайте с 24.05.2006
Offline
58
#4

Кстати, раз такая тема поднялась, приведу статистику активности ботов за 20 дней (обращения к robots.txt).

Белый сайт в зоне ру, возраст 1.5 года, посещаемость ~4К хостов. Может кому-то будет интересно. Число слева - обращения за период времени.

1838 Mozilla/5.0 (compatible; Yahoo! Slurp; http://help.yahoo.com/help/us/ysearch/slurp)

558 psbot/0.1 (+http://www.picsearch.com/bot.html)

456 WebAlta Crawler/1.3.18 (http://www.webalta.net/ru/about_webmaster.html) (Windows; U; Windows NT 5.1; ru-RU)

289 Yandex/1.01.001 (compatible; Win16; I)

246 msnbot/1.0 (+http://search.msn.com/msnbot.htm)

222 WebAlta Crawler/1.3.19 (http://www.webalta.net/ru/about_webmaster.html) (Windows; U; Windows NT 5.1; ru-RU)

108 Gigabot/2.0; http://www.gigablast.com/spider.html

82 Mozilla/5.0 (compatible; Googlebot/2.1; +http://www.google.com/bot.html)

16 msnbot-media/1.0 (+http://search.msn.com/msnbot.htm)

15 msnbot/0.9 (+http://search.msn.com/msnbot.htm)

11 Aport

10 Exabot/3.0

10 ichiro/2.0 (http://help.goo.ne.jp/door/crawler.html)

10 Yahoo-MMCrawler/3.x (mms dash mmcrawler dash support at yahoo dash inc dot com)

8 findlinks/1.1.3-beta9 (+http://wortschatz.uni-leipzig.de/findlinks/)

8 Yandex/1.01.001 (compatible; Win16; H)

7 StackRambler/2.0 (MSIE incompatible)

6 Mozilla/4.0 (compatible; MSIE 5.0; Windows NT; Girafabot; girafabot at girafa dot com; http://www.girafa.com)

4 Mozilla/4.0 (compatible; MSIE 6.0; Windows NT 5.1; SV1; MSIECrawler)

4 Yandex/1.01.001 (compatible; Win16; P)

3 Mozilla/4.0 (compatible; MSIE 6.0; Windows NT 5.1; SV1) ()

3 Mozilla/4.0 (compatible; MSIE 6.0; Windows NT 5.1; SV1; MRA 4.4 (build 01334); .NET CLR 1.1.4322; MSIECrawler)

3 Mozilla/4.0 (compatible; MSIE 6.0; Windows NT 5.1; SV1; MRA 4.6 (build 01425))

3 Mozilla/5.0 (compatible; Yahoo! Slurp China; http://misc.yahoo.com.cn/help.html)

3 Shim-Crawler(Mozilla-compatible; http://www.logos.ic.i.u-tokyo.ac.jp/crawler/; crawl@logos.ic.i.u-tokyo.ac.jp)

2 appie 1.1 (www.walhello.com)

2 Baiduspider+(+http://www.baidu.com/search/spider.htm)

2 Mail.Ru/1.0 libwww/5.4.0

2 Mozilla/4.0 (compatible; MSIE 6.0; Windows NT 5.1; .NET CLR 1.0.3705; .NET CLR 1.1.4322)

2 Mozilla/4.0 (compatible; MSIE 6.0; Windows NT 5.1; MSIECrawler)

2 Mozilla/4.0 (compatible; MSIE 6.0; Windows NT 5.1; SV1; .NET CLR 1.1.4322; MSIECrawler)

1 findlinks/1.1.1-a5 (+http://wortschatz.uni-leipzig.de/findlinks/)

1 ia_archiver-web.archive.org

1 Mediapartners-Google/2.1

1 miniRank/2.0 (miniRank; http://minirank.com/; website ranking engine)

1 SurveyBot/2.3 (Whois Source)

1 TurnitinBot/2.1 (http://www.turnitin.com/robot/crawlerinfo.html)

1 voyager/1.0

mustafa
На сайте с 28.10.2005
Offline
202
#5
sourcer:
Никогда такого не было. Чуть ли сервак своей дДОС атакой не свалил мне =)

это не ДДОС, а ДОС :) У меня такого не замечено.

Kokh
На сайте с 24.05.2006
Offline
58
#6

[ATTACH]1985[/ATTACH]

Так будет нагляднее

gif bots.gif
Алена
На сайте с 08.08.2006
Offline
2
#7
sourcer:
Поглядите плиз логи ниукого яша щас не индексирует?

какая то зверзкая активность у него щас

У меня ситуация слудующая. На сервеере около 100 сайтов, яша щас начал индексивровать и по логам сожрал не имоверное количество страниц с каждого сайта.

Что за такая активность у него?

Никогда такого не было. Чуть ли сервак своей дДОС атакой не свалил мне =)

Бешенная активность. Есть сайт, который он долго игнорировал, так последние несколько дней просто живет на нем . В индексе вместо 2 уже 140 страниц.

AVV
На сайте с 31.07.2006
Offline
84
AVV
#8
Алена:
В индексе вместо 2 уже 140 страниц.

Как вы про это узнали? Вроде апдейта вчера-сегодня не было? ;)

Опять же активность вряд-ли бешенная, а в пределах нормы. Ддос-атакой не назовешь, правда?

Алена
На сайте с 08.08.2006
Offline
2
#9
AVV:
Как вы про это узнали? Вроде апдейта вчера-сегодня не было? ;)

Опять же активность вряд-ли бешенная, а в пределах нормы. Ддос-атакой не назовешь, правда?

Посмотрела страницы, которые в Яндексе, а что?:) Дело было в пятницу. Апдейта, вроде, не было, но позавчера сайт появился в десятке выдачи.

По сравнению с тем, что было последние 2 месяца, то именно бешенная:)

AVV
На сайте с 31.07.2006
Offline
84
AVV
#10
Алена:
Апдейта, вроде, не было, но позавчера сайт появился в десятке выдачи.

Позавчера, 29 сентября, как раз был.

См.: http://web-it.ru/tools/seo/

12

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий