Откуда такая информация? Вы хотите сказать, что уникальность важнее, чем "первоисточность"? Почему?
Цель - понять являются ли тексты на сайте первоисточниками. Если являются, то по поводу уникальности можно не сильно заморачиваться - все равно украдут рано или поздно, но приоритет останется за сайтом-первоисточником. А если не являются - надо уже переписывать.
Интересная ситуация.
Сколько раз пользовался RDS - никогда подобных проблем не возникало. Да и при чем тут Яндекс.Вебмастер? Вебмастер же показывает данные о сайте, пардон за тавтологию, вебмастера. А RDS собирает пузомерки, которые есть в общем доступе. Чисто логически не понимаю, как из-за RDS могли в вебмастере забанить.
В вордстате - еще можно понять. Переюзал, например, Кийколлектор без проксей и получил бан на несколько дней.
А вебмастер из-за какого-то вируса мб заблочен.
Ну как бы первоисточник приоритетнее, не?
Почему? Ведь это же гораздо важнее, чем уникальность / неуникальность.
Что-то вы ерундой какой-то заморачиваетесь, имхо.
Потестил прогу. Из почти 600 страниц сайта (которые загружены Яндекс.ботом) напарсила только 300. Ну выводы сами делайте.
Друзья! А если нет списка урлов?
Какой программой/сервисом лучше воспользоваться, чтобы чекнуть все страницы сайта и выявить из них, какие проиндексированы, а какие нет?
Добрый день! Можно узнать тематику?