Как сделать один Robots?

12
ancifer2002
На сайте с 09.02.2009
Offline
149
1330

Сайт на Wordpress, форум SMF (будет стоять в папке). Каким образом слепить два роботса в кучу?

User-Agent: *
Allow: /wp-content/uploads/
Disallow: /wp-login.php
Disallow: /wp-register.php
Disallow: /xmlrpc.php
Disallow: /template.html
Disallow: /wp-admin
Disallow: /wp-includes
Disallow: /wp-content
Disallow: /tag
Disallow: /category
Disallow: /author
Disallow: /archive
Disallow: */trackback/
Disallow: */feed/
Disallow: */comments/
Disallow: /?feed=
Disallow: /?s=

Host: site.ru
Sitemap: http://site.ru/sitemap.xml

и пример роботса с сайта SMF

User-agent: *
Allow: /forum/*sitemap
Allow: /forum/*arcade # если не стоит мод игр, удалить без пропуска строки
Allow: /forum/*rss
Allow: /forum/*type=rss
Disallow: /forum/attachments/
Disallow: /forum/avatars/
Disallow: /forum/Packages/
Disallow: /forum/Smileys/
Disallow: /forum/Sources/
Disallow: /forum/Themes/
Disallow: /forum/Games/
Disallow: /forum/*.msg
Disallow: /forum/*.new
Disallow: /forum/*sort
Disallow: /forum/*topicseen
Disallow: /forum/*wap
Disallow: /forum/*imode
Disallow: /forum/*action
Disallow: /forum/*prev_next
Disallow: /forum/*all
Disallow: /*PHPSESSID
Disallow: /forum/*go.php # либо тот редирект что стоит у вас
Host: www.мой сайт.ru # указать ваше главное зеркало

User-agent: Slurp
Crawl-delay: 100
Artjom77
На сайте с 11.09.2007
Offline
75
#1

Так в корне создайте robots.txt, если уж у вас директория /forum в той же директории, что и сам WordPress. Если вы имеете ввиду содержимое, то просто объедините, никаких несовместимостей нет.

Проверить сайт на доступность из разных стран (http://check-host.net)
siv1987
На сайте с 02.04.2009
Offline
427
#2
ancifer2002:
Каким образом слепить два роботса в кучу?

Объединить все записи вместе что-то мешает?...

SuRS
На сайте с 14.11.2008
Offline
104
#3

Извиняюсь что влезаю в вашу тему. У меня другой вопрос. Имеется сайт на нем два домена site.ru и bla-bla.ru, что прописать в роботсе чтобы запретить индексацию домена bla-bla.ru?

Даже самый долгий путь начинается с первого шага. Не бойся начать.
ancifer2002
На сайте с 09.02.2009
Offline
149
#4

User-Agent: *

Allow: /wp-content/uploads/

Allow: /forum/*sitemap

Allow: /forum/*arcade # если не стоит мод игр, удалить без пропуска строки

Allow: /forum/*rss

Allow: /forum/*type=rss

Disallow: /wp-login.php

Disallow: /wp-register.php

Disallow: /xmlrpc.php

Disallow: /template.html

Disallow: /wp-admin

Disallow: /wp-includes

Disallow: /wp-content

Disallow: /tag

Disallow: /category

Disallow: /author

Disallow: /archive

Disallow: */trackback/

Disallow: */feed/

Disallow: */comments/

Disallow: /?feed=

Disallow: /?s=

Disallow: /forum/attachments/

Disallow: /forum/avatars/

Disallow: /forum/Packages/

Disallow: /forum/Smileys/

Disallow: /forum/Sources/

Disallow: /forum/Themes/

Disallow: /forum/Games/

Disallow: /forum/*.msg

Disallow: /forum/*.new

Disallow: /forum/*sort

Disallow: /forum/*topicseen

Disallow: /forum/*wap

Disallow: /forum/*imode

Disallow: /forum/*action

Disallow: /forum/*prev_next

Disallow: /forum/*all

Disallow: /*PHPSESSID

Host: site.ru

Sitemap: http://site.ru/sitemap.xml

User-agent: Slurp

Crawl-delay: 100

---------- Добавлено 06.05.2013 в 23:23 ----------

Хоть в хелпе яндекса написано, что порядок директив - пофиг, но сугубо для себя чтоб не запутаться, сделал по порядку. Ничего не упустил?

ЗЫ. Мне кажется лишней индексация РСС форума. Зачем это?

altezzik
На сайте с 06.11.2011
Offline
247
#5
SuRS:
Имеется сайт на нем два домена site.ru и bla-bla.ru, что прописать в роботсе чтобы запретить индексацию домена bla-bla.ru?

Host: site.ru

siv1987
На сайте с 02.04.2009
Offline
427
#6
SuRS:
Извиняюсь что влезаю в вашу тему. У меня другой вопрос. Имеется сайт на нем два домена site.ru и bla-bla.ru, что прописать в роботсе чтобы запретить индексацию домена bla-bla.ru?

Сделайте динамический роботс, который будет отдавать разные инструкции для разных доменов.

RewriteRule ^robots\.txt$ robots.php [L]

SuRS
На сайте с 14.11.2008
Offline
104
#7
siv1987:
Сделайте динамический роботс, который будет отдавать разные инструкции для разных доменов.

RewriteRule ^robots\.txt$ robots.php [L]

А можно поподробнее? 🍿

ancifer2002
На сайте с 09.02.2009
Offline
149
#8

Кто по роботсу чего скажет (SMF+Wordpress)? :) Чтоб дублей не было. На simplemachines.ru как вымерли все нах. :)

User-Agent: *
Allow: /wp-content/uploads/
Allow: /forum/*sitemap
Allow: /forum/*arcade # если не стоит мод игр, удалить без пропуска строки
Allow: /forum/*rss
Allow: /forum/*type=rss
Disallow: /wp-login.php
Disallow: /wp-register.php
Disallow: /xmlrpc.php
Disallow: /template.html
Disallow: /wp-admin
Disallow: /wp-includes
Disallow: /wp-content
Disallow: /tag
Disallow: /category
Disallow: /author
Disallow: /archive
Disallow: */trackback/
Disallow: */feed/
Disallow: */comments/
Disallow: /?feed=
Disallow: /?s=
Disallow: /forum/attachments/
Disallow: /forum/avatars/
Disallow: /forum/Packages/
Disallow: /forum/Smileys/
Disallow: /forum/Sources/
Disallow: /forum/Themes/
Disallow: /forum/Games/
Disallow: /forum/*.msg
Disallow: /forum/*.new
Disallow: /forum/*sort
Disallow: /forum/*topicseen
Disallow: /forum/*wap
Disallow: /forum/*imode
Disallow: /forum/*action
Disallow: /forum/*prev_next
Disallow: /forum/*all
Disallow: /*PHPSESSID

Host: site.ru
Sitemap: http://site.ru/sitemap.xml

User-agent: Slurp
Crawl-delay: 100
6666
На сайте с 10.01.2005
Offline
505
#9
SuRS:
А можно поподробнее?

Лучше директиву "host" заюзайте. Два домена слепятся в зеркала и все. Внешнее ссылочное будет направлено на главное зеркало.

Каждое мое сообщение проверила и одобрила Елена Летучая. (c) Для меня очень важно все что Вы говорите! (http://surrealism.ru/123.mp3) .
SuRS
На сайте с 14.11.2008
Offline
104
#10

Мне нужно было, чтобы роботы не индексировали нужный домен. Решение нашел.


RewriteCond %{HTTP_HOST} domen1.ru
RewriteCond %{REQUEST_FILENAME} robots.txt$
RewriteRule . robots_1.txt [L]

RewriteCond %{HTTP_HOST} domen2.ru
RewriteCond %{REQUEST_FILENAME} robots.txt$
RewriteRule . robots_2.txt [L]
12

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий