Гляньте, я robots.txt правильно составил?

12
[Удален]
801

User-Agent: *

Disallow:

Host: tomck.com

Хочу, чтобы мой сайт не с какими другими не склеился. Решил на все свои сайты robots.txt закинуть.

Цахес
На сайте с 15.03.2007
Offline
205
#1
www.tomck.com:
правильно составил?

Нормально.

- Хорошие и плохие тексты для ваших сайтов (http://www.textsale.ru/team57397.html). - Удаленная работа. Вакансия копирайтера/рерайтера. (http://advego.ru/6myq8sgvKk) - Быстрое составление семантического ядра (https://topvisor.ru/?inv=39380).
DyaDya
На сайте с 11.04.2007
Offline
147
#2
www.tomck.com:
Хочу, чтобы мой сайт не с какими другими не склеился. Решил на все свои сайты robots.txt закинуть.

Роботс от склейки не спасёт (по крайней мере от той, которой вы боитесь). Пришите уникальный контент и пусть другие боятся).

Выбирайте качественный хостинг (http://vashmaster.ru/informaciya/o_poleznyh_programmah/news83.php) и продвигайте сайты в СЕОПУЛЬТ (http://seopult.ru/ref.php?ref=72b5ed9561fe66a1). А на «SAPE» я в обиде :) Не упрекайте за очепятки, пишу вслепую (http://ergosolo.ru/) и также делаю сайты (http://www.vashmaster.ru/) ;)
kimberlit
На сайте с 13.03.2007
Offline
370
#3

Я за такой вариант:

User-Agent: Yandex
Disallow:
Host: tomck.com

User-Agent: *
Disallow:

D
На сайте с 25.10.2007
Offline
12
#4

Или как вариант используйте такой с картой сайта.

User-agent: *

Sitemap: http://www.tomck.com/sitemap.xml

Host: www.tomck.com

Жизнь дана нам одна и прожить ее нужно достойно. (http://www.catalogue.biz.ua)
sergioni3101
На сайте с 26.08.2007
Offline
60
#5
Droba:
Или как вариант используйте такой с картой сайта.

User-agent: *
Sitemap: http://www.tomck.com/sitemap.xml
Host: www.tomck.com

строка Disallow должна быть обязательно, и еще один факт не давно обнаружил, почему-то яндекс не понимает строки Disallow: без параметров. Легко проверить вот так: http://www.yandex.ru/cgi-bin/test-robots?host=www.site.ru

[Удален]
#6
DyaDya:
Роботс от склейки не спасёт (по крайней мере от той, которой вы боитесь). Пришите уникальный контент и пусть другие боятся).

У меня такая ситуация. Основной домен, к нему пару припаркованых. Я думаю, что такой роботс.тхт меня должен спасти от того, что яндекс посчитает другой сайт за основной.

Правильно понимаю? Этот роботс указывает какой сайт всетаки главный?

dspu
На сайте с 10.05.2006
Offline
268
#7
sergioni3101:
Легко проверить вот так: http://www.yandex.ru/cgi-bin/test-robots?host=www.site.ru

там хитрая переадресация, можете дать нормальный пример?

dspu добавил 14.04.2008 в 19:26

kimberlit:
Я за такой вариант:

User-Agent: Yandex
Disallow:
Host: tomck.com

User-Agent: *
Disallow:

+10000 ☝

хост надо для яшиного раздела отдельно прописывать от *

Цахес
На сайте с 15.03.2007
Offline
205
#8
dspu:
там хитрая переадресация, можете дать нормальный пример?

Нормальный пример дан. Вместо www.site.ru любой другой урл вводить надо.

dspu:
хост надо для яшиного раздела отдельно прописывать от *

Не критично.

dspu
На сайте с 10.05.2006
Offline
268
#9
Цахес:
Нормальный пример дан. Вместо www.site.ru любой другой урл вводить надо.

не любой другой, а там где есть пустой disallow ;)

Цахес
На сайте с 15.03.2007
Offline
205
#10
dspu:
не любой другой

А что тогда? Проблема найти роботс с пустым disallow?

12

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий