- Поисковые системы
- Практика оптимизации
- Трафик для сайтов
- Монетизация сайтов
- Сайтостроение
- Социальный Маркетинг
- Общение профессионалов
- Биржа и продажа
- Финансовые объявления
- Работа на постоянной основе
- Сайты - покупка, продажа
- Соцсети: страницы, группы, приложения
- Сайты без доменов
- Трафик, тизерная и баннерная реклама
- Продажа, оценка, регистрация доменов
- Ссылки - обмен, покупка, продажа
- Программы и скрипты
- Размещение статей
- Инфопродукты
- Прочие цифровые товары
- Работа и услуги для вебмастера
- Оптимизация, продвижение и аудит
- Ведение рекламных кампаний
- Услуги в области SMM
- Программирование
- Администрирование серверов и сайтов
- Прокси, ВПН, анонимайзеры, IP
- Платное обучение, вебинары
- Регистрация в каталогах
- Копирайтинг, переводы
- Дизайн
- Usability: консультации и аудит
- Изготовление сайтов
- Наполнение сайтов
- Прочие услуги
- Не про работу
Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий
Да все сработает.... Убедитесь сами. Добавьте в addurl хотя бы морду www.site.ru. Он вам напишет гадость какую-нибудь...
Все-таки что-то не пойму я...
Уже какой апдейт... роботс.тхт такой...
-------
User-Agent: *
Disallow: /cgi-bin
Host: site.ru
-------
а яндекс все равно отображает www.site.ru
проиндексировался у меня еще один сайт недавно, я его в яндекс-каталог добавил... вот урл http://realtyweb.ru
внешние ссылки на этот сайт, какие стоят все без www. Так же он зарегистирован в яке. С самого начала сайт отображался без ввв, с последнего апдейта же стал отображаться с какого-то хрена с ввв.
Роботс.тхт можете видеть сами http://realtyweb.ru/robots.txt
Что в нем не так?
Получается, что стоит всегда с самого начала раскручивать адрес с www???
Еще вопрос если зайти ко мне на http://realtyweb.ru/robots.txt и выделить текст за директивой Host в конце предложения образуется пробел... Откуда он там берется ума не приложу. Может, в нем дело?
Посмотрел роботс.тхт у других, этого пробела не наблюдается....
Beirut, у меня то же самое. На денежке с www вообще CY кажет. В robots.txt все нормально. Сами Яндексоиды ответили:
отзеркалируются, это полностью автоматизированный процесс, смена зеркал
произойдет по мере обхода роботом.
--
С уважением,
Служба поддержки
----------------
www.yandex.ru
а насчет пробела у меня в роботсе после текста, мысли какие-нибудь есть?
Проверь файл на яндексе и напиши в суппорт - все сразу станет ясно ;)
в смысле проверить?
на http://www.yandex.ru/cgi-bin/test-robots
???
пишет как у всех...
Запрещена индексация всех URL, начинающихся с указанных префиксов:
/cgi-bin
про директиву host ни слова...
но про нее вроде бы у всех ничего не пишет.... проверял....
--------
еще вопрос к знатокам....
как запретить индексацию динамических страниц?
такого типа
http://site.ru/index.asp?act=xxx&yyyy=id
чтобы собственно непосредственно индекс из поиска не снести...
На сайте www.site.ru в robots.txt прописываете host с основным зеркалом - site.ru. А на сайте site.ru все оставляете без изменения. Таким образом укажате роботу, что зеркало с www индексировать не надо.
А чтобы динамические страницы запретить индексировать, запретите адрес ?act=xxx&yyyy=id
либо ?act=
так это два зеркала в одной папке, как обычно на хостинге... у них документ рут одинаковый... точно так, как и здесь.. forum.searchengines.ru и www.forum.searchengines.ru.... оба адреса обраща.тся к одной папке (к одним и тем же файлам).... роботс.тхт общий у домена с www и без, так что не получится прописать host в одном месте, и не прописать в другом...
проверил роботс у realtyweb.ru
http://www.yandex.ru/cgi-bin/test-robots?host=realtyweb.ru
Запрещена индексация всех URL, начинающихся с указанных префиксов:
http://www.yandex.ru/cgi-bin/test-robots?host=www.realtyweb.ru
Индексация сервера www.realtyweb.ru:80 запрещена полностью.
С учетом того, что я хочу, чтобы индексировался только http://realtyweb.ru без www, я все сделал правильно в роботсе?
ответьте, пожалуйста...