Роботс можно оставить таким:
User-agent: *
Disallow: /cgi-bin
Disallow: /magazin
Disallow: /katalog
Disallow: /personal
Disallow: /forum
Disallow: /index.php
Disallow: /user
Disallow: /ssilki.php
Disallow: /test.html
Если что не так - поправьте.
Остановитесь на достигнутом - опять упадете в рейтинге поисковых систем... Решайте сами...
Ну а если CMS предусматривает по любой ссылке НЕ давать 404? http://ab-nn.ru/beliberda/beliberda2 Только robots.txt? Ну а если старого индекса настолько много, что все прописать в robots.txt - почти нереально?
PopUnder я убрал.
Попросил возобновление индексации....
Посмотрим, про эту тему я Вам лично напомню... Очень уж задели Вы меня:)
PopUnder - для вас, и показывается 1 раз 1-му IP.
И до PopUnder'a индекса не было.
А домен я перекупил - пошел просить Яндекс разлочить его.
ab-nn, В индексе у Яндекса когда-то была одна страница, ГЛАВНАЯ страница, и ВСЕ...
Я вообще не пишу директиву host.
Посмотрите мой robots
http://www.all4css.ru/robots.txt
Попробуйте использовать Яндекс.Сервер, при условии, что сайт стоит на своем сервере, также хостинг http://1gb.ru предлагает бесплатное размещение Я.Сервера.
artem-moskvin добавил 06.02.2011 в 12:18
Кстати, какой у Вас хостинг?
1). Когда хостинг был в порядке яндекс не индексировал.
2). Проблемы временные.
artem-moskvin добавил 06.02.2011 в 11:59
Психиатр, даже когда сайт был в порядке, в индексе была одна страница...