robots.txt для классического сайта html css?

12
[Удален]
2180

robots.txt для классического сайта html css?

нужен по причине удаления некоректной ссылки сайта (которую проиндексировал только яндекс)..

Напишите плз типа шаблона robots.txt? Как заблокировать ссылку например www.test.ru/dgdfdb.htm

S2
На сайте с 07.01.2008
Offline
611
#1

User-agent: Yandex

Disallow: /dgdfdb.htm

Host: www.test.ru

User-agent: *

Disallow: /dgdfdb.htm

Sitemap: http://www.test.ru/sitemap.xml

Тут проверяйте: http://webmaster.yandex.ru/wmconsole/public_robots_txt.xml

Не надо приписывать мне свои выводы, я имею ввиду только то, что написал. Лучшая партнёрка по футболкам/толстовкам (http://partnerka.kolorado.ru/?ref=1921540) Опрос: Проверить текст на уник - как? (/ru/forum/495885)
JD
На сайте с 08.12.2008
Offline
471
#2

Подробное руководство по использованию robots.txt: http://help.yandex.ru/webmaster/?id=996567

[Удален]
#3
Str256:
User-agent: Yandex
Disallow: /dgdfdb.htm
Host: www.test.ru

User-agent: *
Disallow: /dgdfdb.htm
Sitemap: http://www.test.ru/sitemap.xml

Тут проверяйте: http://webmaster.yandex.ru/wmconsole/public_robots_txt.xml

сайтмап обязательно? Если его нет?

P
На сайте с 18.01.2009
Offline
49
#4
bebesko:
сайтмап обязательно? Если его нет?

если нет, тогда конечно не нужно :)

TeXiCo
На сайте с 27.03.2009
Offline
102
#5

а хост обязательно с www?

Хостинг, VDS\VPS, Выделенные серверы (http://timeweb.com/ru/?i=3000)
ViZa
На сайте с 20.10.2007
Offline
93
#6
TeXiCo:
а хост обязательно с www?

а это смотря как вы продвигаете сайт либо с www, либо без. Но главное зеркало лучше указать, что бы не было лишних проблем потом с выдачей!

Хороший трафик от 2.5 у.е. за 1000 уников здесь (http://ruclicks.com/?ref=ViZa) На колбаску я зарабатываю здесь (http://www.setlinks.ru/?pid=7171) Оценка - стоимости поискового продвижения (http://seobudget.ru/seo/de381081332dfb3ad140ca7ba5d71881/)
[Удален]
#7
TeXiCo:
а хост обязательно с www?

Сайт работает и с www и без него

Alex Klo
На сайте с 15.06.2006
Offline
304
#8
bebesko:
Сайт работает и с www и без него

как он в выдаче Яндекса находится, так и укажите

Str256:
User-agent: *
Disallow: /dgdfdb.htm
Sitemap: http://www.test.ru/sitemap.xml

для Вас может и необязательно...

Проверка и мониторинг позиций сайта ( http://www.topvisor.ru/?inv=1520 ) Продвигаю сайты http://climat-nw.ru/conditioner-installation/ http://www.aircom-spb.ru/service/montaj/
Z
На сайте с 13.03.2009
Offline
81
#9

Мне надо сделать роботс.тхт но что бы ничего не запрещать. Тогда просто создать пустой файл?

IR
На сайте с 05.03.2009
Offline
26
#10

Нет, тогда пишешь:

User-agent: Yandex

Disallow:

Host: www.test.ru

User-agent: Googlebot

Disallow:

User-agent: *

Disallow:

12

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий