Не слишком жостко?
Мало ли что за подсеть попадется.
Есть сервисы которые платят пользователю за выполнение определенных действий, основной контингент - лица до 18лет.
Делается описание что пользователь должен делать на сайте, грузится скрипт либо прога которая смотрит что бы человек не жульничал.
После выполнения, на его счет в сервисе, капают центы. (както так)
А дорого или не дорого - зависит от оборота.
Это значит что изменения работают но их недостаточно.
Нужно подгонять сайт под существующие алгоритмы.
ПС постоянно дорабатывают своих ботов и то что хорошо держалось в топе месяц назад - сегодня может быть в АГС, если своевременно не исправить.
Вывести с АГС можно но, своевременное внесение изменений избавит вас от такой проблемы.
Набирать с разных мест и парсить каждого следующего донора, для статьи, основываясь на ключах предыдущего.
Новостники нормально работают с таким подходом, 1.5к страниц за год в топе по НЧ (проверено).
ЗЫ не забывайте: делая ГС, никто 100% гарантий, на долгую и счастливую жизнь, не даст
Реализация дольше но, более тонкая настройка на большом промежутке времени даст лучшие результаты.
Имхо.
Для ГС конечно нет смысла так заморачиваться.
http://web-install.ru/info/info_44.html - по яше, описание ботов.
По остальным информацию тоже не сложно найти.
ЗЫ можно даже банить отдельно ботов которые выявляют ГС, но это еще тестить нужно ☝
Станицы не должны ссылаться на себя.
Если на сайте 2 одинаковых меню, одно в noindex (как правило - подвальное).
С логотипа на главную должна быть ссылка (я туда еще и ВЧ вставляю, который на главной двигается title="На главную: установка кондиционеров" както так)
ТС, а не проще разрешить только гуглу, яше, рамблер, маил.ру, сканить (тех - которые нужны) ☝
User-Agent: *
Disallow: /?
Disallow: /search_all/
Disallow: /obratnyj_zvonok/
Disallow: /obratnyj_zvonok_rezultat/
Disallow: /admin
Disallow: /index.php
Disallow: /emarket/addToCompare
Disallow: /emarket/basket
Disallow: /go_out.php
Disallow: /search
Disallow: /users
Crawl-delay: 3 - задержка для ботов, у некоторых видел 10 даже стоит
Host: site.ru
Sitemap: http://site.ru/sitemap.xml
ЗЫ изучать конкурентов не пробовали?