Но хелпы по robots.txt почитайте.
А дубли у вас не закрыты, ждите появления новых... возможно, с большей скоростью, чем удаление старых.
Это как бы система контекстной рекламы, см высказывания создателя
А чтобы это всё приносило доход... у масс в голове должны быть неопровержимые убеждения в том, что Яндекс — поисковая система.
А чтобы в поиск приходилось меньше вкладываться, у вебмастеров в голове должны быть неопровержимые убеждения в том, Они стараются help.yandex.ru/webmaster/?id=995298 ... но реалии таковы, что их бесит до рефлексов — когда им конкретно напоминают, что именно Их технологическая отсталость являются причиной и мотивом засерания www ... а те, кто и засерает рунет — их волнуют меньше (если ведут себя тихо).
Я бы не стал...
В robots.txt боты заглядывают иногда, по логике, им не надо будет обращаться к тясячам страниц, чтобы многие из них повыкидывать.
http://m.searchengines.ru/articles/ranking_the_quo.html
Вот так иносказательно, но показательно.
Одни слова для кухонь, другие для улиц:
/ru/forum/709708
Так.
в Сохраненные копии загляните... снимок страницы по состоянию на 6 ноя 2012 09:33:24 GMT
Чтобы пролезть по десяткам тыщ страниц и увидеть редирект или каноникал... боту понадобится много времени. Или Гуглу надо срочно перегрузить сеть/сервак запросами?
Редиректом надо предотвращать появление дублей, а исправлять ... может быть и долго.
Добрые были люди?
Вот выше выложены дубли, они как-то закрыты в роботсе?
А в какой теме сайт отвечающий всем правилам яндеса рентабелен?
И, если можно, все реальные правила тут выпишите. Сцылок на ихние представления не надо.
. ...
Точно-вхождение почти ничего не решает.