Вопрос о robots.txt на dle

Y
На сайте с 07.12.2011
Offline
109
1479

Купил сегодня лицензию dle, установил все. Вот, дело дошло до роботса. Думаю-думаю, какой будет лучше. Остановился на этом варианте:

User-agent: *

Disallow: /*print

Disallow: /tags/

Disallow: /2012/

Disallow: /2013/

Disallow: /user/

Disallow: /backup/

Disallow: /engine/

Disallow: /language/

Disallow: /templates/

Disallow: /upgrade/

Disallow: /uploads/

Disallow: /autobackup.php

Disallow: /admin.php

Disallow: /index.php?do=addnews

Disallow: /index.php?do=feedback

Disallow: /index.php?do=lostpassword

Disallow: /index.php?do=pm

Disallow: /index.php?do=register

Disallow: /index.php?do=stats

Disallow: /index.php?do=search

Disallow: /index.php?subaction=newposts

Disallow: /?do=lastcomments

Disallow: /statistics.html

Host: site.ru

Sitemap: http://site.ru/sitemap.xml

Так оставить? Или что-то нужно добавить или поменять.

Я добивался того, чтобы было меньше дублей и ненужного шлака.

дани мапов
На сайте с 06.09.2012
Offline
204
#1

Чтобы не индексировались краткие новости, я добавляю:

Disallow: /*/page/

Смотрите сами подойдет ли это в вашем случае, но не забудьте про карту сайта.

И вместо нескольких строк, обычно одна:

Disallow: /index.php

Написание и доработка скриптов (PHP, MySQL, JavaScript, jQuery) (/ru/forum/811046)
Y
На сайте с 07.12.2011
Offline
109
#2

User-agent: *

Disallow: /*print

Disallow: /tags/

Disallow: /2012/

Disallow: /2013/

Disallow: /user/

Disallow: /backup/

Disallow: /engine/

Disallow: /language/

Disallow: /templates/

Disallow: /upgrade/

Disallow: /uploads/

Disallow: /autobackup.php

Disallow: /admin.php

Disallow: /index.php

Disallow: /?do=lastcomments

Disallow: /statistics.html

Host: site.ru

Sitemap: http://site.ru/sitemap.xml

Вы имели ввиду так?!

Delarante
На сайте с 13.07.2008
Offline
69
#3
дани мапов:

И вместо нескольких строк, обычно одна:
Disallow: /index.php

Лучше так:

Disallow: /*?

ТС и убираете из своего списка все строки с ?

Disallow: /uploads/ - так не будут индексироваться картинки, учитывайте это!

Disallow: /admin.php - это вообще лишнее, а файл этот вообще переименовать.

Disallow: /upgrade/ - это тоже лишнее. Эту директорию вообще нужно снести!

дани мапов
На сайте с 06.09.2012
Offline
204
#4
yahalifeer:
User-agent: *
Disallow: /*print
Disallow: /tags/
Disallow: /2012/
Disallow: /2013/
Disallow: /user/
Disallow: /backup/
Disallow: /engine/
Disallow: /language/
Disallow: /templates/
Disallow: /upgrade/
Disallow: /uploads/
Disallow: /autobackup.php
Disallow: /admin.php
Disallow: /index.php
Disallow: /?do=lastcomments
Disallow: /statistics.html
Host: site.ru
Sitemap: http://site.ru/sitemap.xml

Вы имели ввиду так?!

Да, так обычно и делаю.

K
На сайте с 18.01.2012
Offline
9
#5

У меня такой роботс:

User-agent: *

Disallow: /xfsearch/

Disallow: /catalog/

Disallow: /cgi-bin/

Disallow: /engine/

Disallow: /favorites/

Disallow: /language/

Disallow: /lastnews/

Disallow: /newposts/

Disallow: /tags/

Disallow: /templates/

Disallow: /uploads/

Disallow: /addnews.html

Disallow: /rules.html

Disallow: /statistics.html

Disallow: /*do=

Disallow: /*page/

Disallow: /backup/

Disallow: /user/

Disallow: /upgrade/

Disallow: /autobackup.php

Disallow: /index.php?do=search

Disallow: /*subaction=userinfo

Disallow: /*subaction=newposts

Host: site.ru

Sitemap: http://site.ru/sitemap.xml

Найдите эти файлы (ниже пути к файлам) и пропишите <meta name="robots" content="noindex"> после <head>

/templates/static_print.tpl

/templates/print.tpl - запретить индексацию версий для печати

/engine/skins/default.skin.php - запрет индексации админки + вы не палитесь в роботсе насчет переименованного файла admin.php

С таким конфигом в индексе количество стр. у яши и гоши почти поровну, и в индексе все нужные страницы.

1
На сайте с 28.05.2011
Offline
90
#6

Кроме krinkrank теги никто не закрывает?:)

дани мапов
На сайте с 06.09.2012
Offline
204
#7
10sec:
Кроме krinkrank теги никто не закрывает?:)

У ТС в первом посте: Disallow: /tags/

K
На сайте с 18.01.2012
Offline
9
#8
10sec:
Кроме krinkrank теги никто не закрывает?:)

Это только в моем случае на одном из сайтов , теги можно оставить, даже нужно иногда. Это всего лишь пример какие урлы можно закрыть.

Y
На сайте с 07.12.2011
Offline
109
#9

спасибо всем за пояснения) с Вашей помощью разобрался

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий