короче итог этой темы (вобщем как и всех остальных) - все нужно пробовать самому и только тогда делать какие то выводы ..
скучно эт точно) какбы надо разуплотнять этот раздел)
это если рассматривать фрихосты.. а если брать свои домены где все сабы это доры ?
если у домена много поддоменов вполне вероятно что это дор. по такому принципу ПСки могут палить доры.
А если будет сайт с дорами в папках, то такое спалить уже сложнее .. :)
мой, я тоже парсеры пишу, как то даже открывал здесь подобную тему ..
конкурент .. а может партнер ?)
зыж: а вообще немного не тот раздел выбрали для данной темы, тут народ в основном по адалту работает, им "дом, семья, медицина" врядли нужны ...
обанехуяссе репа 😮 -18000 солидно :)
похоже вы плохо программеров знаете :D
на каждый, причем с реферером поисковика, так что вы даже и не отличите от обычного пользователя ;) а отличить их можно только по странным нечеловеческим запросам )
зыж: похоже вас за клоакинг не банили еще ни разу ..
и как же вы собрались определять ботов? точнее ботов то определить не составит труда, а вот что насчет хитроботов? :)