Норм такой robots.txt?

12
consecro
На сайте с 16.08.2009
Offline
30
1024
User-agent: *
Disallow: /administrator/
Disallow: /cache/
Disallow: /components/
Disallow: /includes/
Disallow: /installation/
Disallow: /language/
Disallow: /libraries/
Disallow: /media/
Disallow: /modules/
Disallow: /plugins/
Disallow: /templates/
Disallow: /tmp/
Disallow: /xmlrpc/
Disallow: http://sem-biz.ru/Lost-user-name/
Disallow: http://sem-biz.ru/Lost-password/
Disallow: http://sem-biz.ru/Kontakty/Znakomimsya-Kabakov-Artёm
Sitemap: http://sem-biz.ru/component/option,com_xmap/Itemid,104/sitemap,1/

Проверьте пожалуйста, подойдёт такой или нет?

J
На сайте с 11.05.2008
Offline
64
#1

2-4 снизу неправильно

1 сверху неправильно с точки зрения безопасности

free-date: Сегодня (http://free-date.ru/list.php)
skrayu
На сайте с 09.11.2009
Offline
14
#2

а у меня такой

Sitemap: http://домен.ru/sitemap.xml
User-agent: *
Crawl-delay: 4.5
Disallow: /administrator/
Disallow: /cache/
Disallow: /components/
Disallow: /includes/
Disallow: /installation/
Disallow: /language/
Disallow: /libraries/
Disallow: /media/
Disallow: /modules/
Disallow: /plugins/
Disallow: /templates/
Disallow: /tmp/
Disallow: /xmlrpc/
User-agent: Yandex
Allow: /cgi-bin
дикий конверт траффа (http://katvin.com/?http://fotocash.ru/?ref=247028000) меняешь деньги?-меняй у проверенных!!! (http://www.menyala.ru/partner.asp?pid=7442)
[Удален]
#3

у меня такой

User-agent: *
Disallow: /*print
Disallow: /autobackup.php
Disallow: /admin.php
Disallow: /user/
Disallow: /favorites/
Disallow: /index.php?do=register
Disallow: /?do=lastcomments
Disallow: /statistics.html
Sitemap: http://my-dle-site.ru/sitemap.xml
User-agent: Yandex
Host: my-dle-site
6uoncuxo3
На сайте с 05.11.2008
Offline
202
#4

consecro, Andryw, как, индексации помогают такие темы?

We all live in a sick world, where hatred is a weapon, and freedom - a dream. © На небе — Бог, на земле — Россия. © Сербская поговорка.
kimberlit
На сайте с 13.03.2007
Offline
370
#5

skrayu, Andryw, между секциями нужна пустая строка.

dica
На сайте с 02.05.2009
Offline
23
#6
consecro:
Проверьте пожалуйста, подойдёт такой или нет?

Вот такой подойдет

User-agent: *
Disallow: /administrator/
Disallow: /cache/
Disallow: /components/
Disallow: /includes/
Disallow: /installation/
Disallow: /language/
Disallow: /libraries/
Disallow: /media/
Disallow: /modules/
Disallow: /plugins/
Disallow: /templates/
Disallow: /tmp/
Disallow: /xmlrpc/
Host: www.sem-biz.ru

Sitemap: http://www.sem-biz.ru/sitemap.xml

Sitemap лучше в таком виде в корне разместить

можно еще под Яшу отдублировать

User-agent: Yandex
Каталог ссылок и статей автотематики (http://live-auto.ru/) Новый оконный форум (http://pkkshop.ru/forum/) Публикую статьи на тему интернет, SEO и т.д. (http://mir-live.ru/)
[Удален]
#7

т.е самый простой вариант будет так ?

User-Agent: Yandex
Disallow: /user/
Host: http://сайт
User-Agent: *

Sitemap: http://сайт/sitemap.xml
DataGet
На сайте с 23.02.2010
Offline
1
#8

Да, так будет лучше всго, наверное

[Удален]
#9
DataGet:
Да, так будет лучше всго, наверное

Точного ответа нет?🚬

[Удален]
#10
dica:
Sitemap лучше в таком виде в корне разместить

чтобы парсить было удобнее 😂

12

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий