Зачем нужны эти User-agent:

Soley
На сайте с 22.08.2007
Offline
123
2499

Помогите разобраться… Зачем нужны следующие User-agent:

-twiceler

-CazoodleBot

-WebInject

-Slurp

-IRLbot

-gigabot

-TuritinBot

-psbot

-kmSearchBot

К каким поисковым системам они относятся????

[Удален]
#1

http://www.user-agents.org/ - здесь есть ответы на все ваши вопросы

dar111
На сайте с 10.09.2007
Offline
111
#2

Yahoo Slurp - кто такой? что-то не нашел в этом списке

Soley
На сайте с 22.08.2007
Offline
123
#3
dar111:
Yahoo Slurp - кто такой? что-то не нашел в этом списке

Это понятное дело робот Yahoo (поисковой системы Yahoo)... более подробно о нем можно почитать тут

MIND
На сайте с 08.03.2007
Offline
238
#4

Да, и вообще в бан его надо если сервер критично относится к процессорной нагрузке... :) За всю историю существования моих сайтов, только 1 раз видел, как кто-то с выдачи яху зашел ко мне (запрос тематический)

Key Collector - автоматизированная система анализа семантического ядра (/ru/forum/863504)
dar111
На сайте с 10.09.2007
Offline
111
#5

что-то косяком пошли, ещё гугл с апортом топчутся🙄

Soley
На сайте с 22.08.2007
Offline
123
#6
Kimi:
http://www.user-agents.org/ - здесь есть ответы на все ваши вопросы

Спасибо! Добавлено в закладки :)

Вот что нашла (может кому пригодится):

Twiceler is an experimental robot (http://www.cuill.com/robots.html)

Turnitin (ex SlySearch) robot for helping educational institutions prevent plagiarism (http://www.turnitin.com/robot/crawlerinfo.html)

CazoodleBot/CazoodleBot-0.1 (http://www.cazoodle.com/)

IRLbot IRL-crawler - Texas A&M University research project crawler (http://irl.cs.tamu.edu/)

gigabot (http://gigablast.com/)

psbot (http://www.picsearch.com/)

сведенья о данных ботах взяты из robots.txt одного из сайтов... Интерестно зачем ему надо было их прописывать? Неужели http://gigablast.com/ и http://www.picsearch.com/ настолько часто используются?

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий