Старые страницы и робот

Kavabata
На сайте с 12.09.2002
Offline
123
925

Сегодня на ночь, я читал логи и обнаружил что на страницы, которые не существует (404 ошибка) ходит робот Яндекса, причем индексатор. Вопрос в следующем, нужно ли эти страницы удалять искуственно, через форму на http://yandex.ru/removeurl.html, что бы не засорять базу и не отвлекать робота от более важных страниц ?

С уважением, Дмитрий Андрияшкин (http://www.facebook.com/profile.php?id=100000174803348). Чистый трафик с крупнейших СМИ от 0.9 рублей от Облака кликов (http://clickscloud.net/?utm_source=searchenginest&utm_campaign=podpis).
wolf
На сайте с 13.03.2001
Offline
1183
#1

Страницы с 404 никак не отвлекут робота Яндекса от других страниц. Квота в 500 страниц распространяется только на те страницы, которые вернули отклик 200 на запрос If-Modified-Since

Сергей Людкевич, независимый консультант, SEO-аудиты и консультации - повышаю экспертность SEO-команд и специалистов ( http://www.ludkiewicz.ru/p/blog-page_2.html ) SEO-блог - делюсь пониманием некоторых моментов поискового продвижения ( http://www.ludkiewicz.ru/ )
Kavabata
На сайте с 12.09.2002
Offline
123
#2

Спасибо, wolf. А можно еще вопрос-дегенарат, а чего вобще может делать и забыл индесатор на страницах, которых не существует, ведь там же нечего индексировать ?

wolf
На сайте с 13.03.2001
Offline
1183
#3
а чего вобще может делать и забыл индесатор на страницах, которых не существует, ведь там же нечего индексировать ?

Может, ссылки на эти страницы где-нибудь остались, и он их по этим ссылкам и находит.

Kavabata
На сайте с 12.09.2002
Offline
123
#4

Ссылки, остались, видимо в результатах поиска. :(

D
На сайте с 21.09.2003
Offline
53
#5
Ссылки, остались, видимо в результатах поиска

Скорее, на страницах других сайтов

С уважением, DEkart Блог о Ruby on Rails (http://railorz.ru/) | Создание сайтов от 6999 рублей (http://lite.itvektor.ru)
LM
На сайте с 30.11.2001
Offline
71
LiM
#6
Ссылки, остались, видимо в результатах поиска.

Если ссылки остались в результатах поиска, значит не так давно эти страницы еще существовали. Робот помнит адреса всех проиндексированных страниц и регулярно проверяет их на предмет изменения. Если такая страница вернет код 404, робот удалит ее из результатов поиска и забудет ее адрес, т.к. страницы более не существует.

С уважением, Андрей Хроленок. Загляни в FAQ по оптимизации и продвижению сайтов (http://www.seoman.ru/FAQ/) Анализатор страниц сайтов (http://www.seoman.ru/analizer/)
M
На сайте с 19.08.2003
Offline
28
#7

При реорганизации структуры сайта иногда ликвидируются некоторые папки, страницы и, соответственно, внутренние ссылки на них.

Но пока новые страницы не проиндексированы (а процесс не быстрый, однако), жалко удалять старые - они проиндексированы, на них народ с поиска хорошо идет.

Как к этому отнесутся поисковики? Не воспримут как дорвеи?

Спасибо.

LM
На сайте с 30.11.2001
Offline
71
LiM
#8

А при чем тут дорвеи? Эти же страницы не нарушали правил поисковых систем и сделаны для людей... Нарушений не вижу.

M
На сайте с 19.08.2003
Offline
28
#9

LiM, смущает, что с сайта нет больше ссылки на страницу, а на самой странице - есть, меню, например. Формально это не дорвей?

Kavabata
На сайте с 12.09.2002
Offline
123
#10
LiM, смущает, что с сайта нет больше ссылки на страницу, а на самой странице - есть, меню, например. Формально это не дорвей

На самом деле интересный вопрос. Потому что, по большому счету, не очень хочется убирать старую страницу, если она видна по одним запросам, а новая проиндексированная по другим. И в принципе это очень интелегентный дорвей.

А при чем тут дорвеи? Эти же страницы не нарушали правил поисковых систем и сделаны для людей... Нарушений не вижу.

Но к сожалению, критерий "страницы сделана для людей" и настроение модератора Яндекса как говорят, у Greyа в Одессе две большие разницы. А правила поисковиков строго не регламентируют данную ситуацию......

Потому что к примеру, можно сделать под разные запросы разные страницы сайта не связанные с ним навигацией.... И они не будут обманом людей, но сделаны будут под запросы.

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий