- Поисковые системы
- Практика оптимизации
- Трафик для сайтов
- Монетизация сайтов
- Сайтостроение
- Социальный Маркетинг
- Общение профессионалов
- Биржа и продажа
- Финансовые объявления
- Работа на постоянной основе
- Сайты - покупка, продажа
- Соцсети: страницы, группы, приложения
- Сайты без доменов
- Трафик, тизерная и баннерная реклама
- Продажа, оценка, регистрация доменов
- Ссылки - обмен, покупка, продажа
- Программы и скрипты
- Размещение статей
- Инфопродукты
- Прочие цифровые товары
- Работа и услуги для вебмастера
- Оптимизация, продвижение и аудит
- Ведение рекламных кампаний
- Услуги в области SMM
- Программирование
- Администрирование серверов и сайтов
- Прокси, ВПН, анонимайзеры, IP
- Платное обучение, вебинары
- Регистрация в каталогах
- Копирайтинг, переводы
- Дизайн
- Usability: консультации и аудит
- Изготовление сайтов
- Наполнение сайтов
- Прочие услуги
- Не про работу
В 2023 году 36,9% всех DDoS-атак пришлось на сферу финансов
А 24,9% – на сегмент электронной коммерции
Оксана Мамчуева
Переиграть и победить: как анализировать конкурентов для продвижения сайта
С помощью Ahrefs
Александр Шестаков
Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий
Сайт на Wordpress, форум SMF (будет стоять в папке). Каким образом слепить два роботса в кучу?
Allow: /wp-content/uploads/
Disallow: /wp-login.php
Disallow: /wp-register.php
Disallow: /xmlrpc.php
Disallow: /template.html
Disallow: /wp-admin
Disallow: /wp-includes
Disallow: /wp-content
Disallow: /tag
Disallow: /category
Disallow: /author
Disallow: /archive
Disallow: */trackback/
Disallow: */feed/
Disallow: */comments/
Disallow: /?feed=
Disallow: /?s=
Host: site.ru
Sitemap: http://site.ru/sitemap.xml
и пример роботса с сайта SMF
Allow: /forum/*sitemap
Allow: /forum/*arcade # если не стоит мод игр, удалить без пропуска строки
Allow: /forum/*rss
Allow: /forum/*type=rss
Disallow: /forum/attachments/
Disallow: /forum/avatars/
Disallow: /forum/Packages/
Disallow: /forum/Smileys/
Disallow: /forum/Sources/
Disallow: /forum/Themes/
Disallow: /forum/Games/
Disallow: /forum/*.msg
Disallow: /forum/*.new
Disallow: /forum/*sort
Disallow: /forum/*topicseen
Disallow: /forum/*wap
Disallow: /forum/*imode
Disallow: /forum/*action
Disallow: /forum/*prev_next
Disallow: /forum/*all
Disallow: /*PHPSESSID
Disallow: /forum/*go.php # либо тот редирект что стоит у вас
Host: www.мой сайт.ru # указать ваше главное зеркало
User-agent: Slurp
Crawl-delay: 100
Так в корне создайте robots.txt, если уж у вас директория /forum в той же директории, что и сам WordPress. Если вы имеете ввиду содержимое, то просто объедините, никаких несовместимостей нет.
Каким образом слепить два роботса в кучу?
Объединить все записи вместе что-то мешает?...
Извиняюсь что влезаю в вашу тему. У меня другой вопрос. Имеется сайт на нем два домена site.ru и bla-bla.ru, что прописать в роботсе чтобы запретить индексацию домена bla-bla.ru?
User-Agent: *
Allow: /wp-content/uploads/
Allow: /forum/*sitemap
Allow: /forum/*arcade # если не стоит мод игр, удалить без пропуска строки
Allow: /forum/*rss
Allow: /forum/*type=rss
Disallow: /wp-login.php
Disallow: /wp-register.php
Disallow: /xmlrpc.php
Disallow: /template.html
Disallow: /wp-admin
Disallow: /wp-includes
Disallow: /wp-content
Disallow: /tag
Disallow: /category
Disallow: /author
Disallow: /archive
Disallow: */trackback/
Disallow: */feed/
Disallow: */comments/
Disallow: /?feed=
Disallow: /?s=
Disallow: /forum/attachments/
Disallow: /forum/avatars/
Disallow: /forum/Packages/
Disallow: /forum/Smileys/
Disallow: /forum/Sources/
Disallow: /forum/Themes/
Disallow: /forum/Games/
Disallow: /forum/*.msg
Disallow: /forum/*.new
Disallow: /forum/*sort
Disallow: /forum/*topicseen
Disallow: /forum/*wap
Disallow: /forum/*imode
Disallow: /forum/*action
Disallow: /forum/*prev_next
Disallow: /forum/*all
Disallow: /*PHPSESSID
Host: site.ru
Sitemap: http://site.ru/sitemap.xml
User-agent: Slurp
Crawl-delay: 100
---------- Добавлено 06.05.2013 в 23:23 ----------
Хоть в хелпе яндекса написано, что порядок директив - пофиг, но сугубо для себя чтоб не запутаться, сделал по порядку. Ничего не упустил?
ЗЫ. Мне кажется лишней индексация РСС форума. Зачем это?
Имеется сайт на нем два домена site.ru и bla-bla.ru, что прописать в роботсе чтобы запретить индексацию домена bla-bla.ru?
Host: site.ru
Извиняюсь что влезаю в вашу тему. У меня другой вопрос. Имеется сайт на нем два домена site.ru и bla-bla.ru, что прописать в роботсе чтобы запретить индексацию домена bla-bla.ru?
Сделайте динамический роботс, который будет отдавать разные инструкции для разных доменов.
RewriteRule ^robots\.txt$ robots.php [L]
Сделайте динамический роботс, который будет отдавать разные инструкции для разных доменов.
RewriteRule ^robots\.txt$ robots.php [L]
А можно поподробнее? 🍿
Кто по роботсу чего скажет (SMF+Wordpress)? :) Чтоб дублей не было. На simplemachines.ru как вымерли все нах. :)
Allow: /wp-content/uploads/
Allow: /forum/*sitemap
Allow: /forum/*arcade # если не стоит мод игр, удалить без пропуска строки
Allow: /forum/*rss
Allow: /forum/*type=rss
Disallow: /wp-login.php
Disallow: /wp-register.php
Disallow: /xmlrpc.php
Disallow: /template.html
Disallow: /wp-admin
Disallow: /wp-includes
Disallow: /wp-content
Disallow: /tag
Disallow: /category
Disallow: /author
Disallow: /archive
Disallow: */trackback/
Disallow: */feed/
Disallow: */comments/
Disallow: /?feed=
Disallow: /?s=
Disallow: /forum/attachments/
Disallow: /forum/avatars/
Disallow: /forum/Packages/
Disallow: /forum/Smileys/
Disallow: /forum/Sources/
Disallow: /forum/Themes/
Disallow: /forum/Games/
Disallow: /forum/*.msg
Disallow: /forum/*.new
Disallow: /forum/*sort
Disallow: /forum/*topicseen
Disallow: /forum/*wap
Disallow: /forum/*imode
Disallow: /forum/*action
Disallow: /forum/*prev_next
Disallow: /forum/*all
Disallow: /*PHPSESSID
Host: site.ru
Sitemap: http://site.ru/sitemap.xml
User-agent: Slurp
Crawl-delay: 100
А можно поподробнее?
Лучше директиву "host" заюзайте. Два домена слепятся в зеркала и все. Внешнее ссылочное будет направлено на главное зеркало.
Мне нужно было, чтобы роботы не индексировали нужный домен. Решение нашел.