- Поисковые системы
- Практика оптимизации
- Трафик для сайтов
- Монетизация сайтов
- Сайтостроение
- Социальный Маркетинг
- Общение профессионалов
- Биржа и продажа
- Финансовые объявления
- Работа на постоянной основе
- Сайты - покупка, продажа
- Соцсети: страницы, группы, приложения
- Сайты без доменов
- Трафик, тизерная и баннерная реклама
- Продажа, оценка, регистрация доменов
- Ссылки - обмен, покупка, продажа
- Программы и скрипты
- Размещение статей
- Инфопродукты
- Прочие цифровые товары
- Работа и услуги для вебмастера
- Оптимизация, продвижение и аудит
- Ведение рекламных кампаний
- Услуги в области SMM
- Программирование
- Администрирование серверов и сайтов
- Прокси, ВПН, анонимайзеры, IP
- Платное обучение, вебинары
- Регистрация в каталогах
- Копирайтинг, переводы
- Дизайн
- Usability: консультации и аудит
- Изготовление сайтов
- Наполнение сайтов
- Прочие услуги
- Не про работу
Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий
Здравствуйте!
Сайт на WP.
Ничего сверхъестественного, по индексации задача просто в том, чтобы все, что есть (записи, страницы) проиндексировалось.
Много пишут о значение грамотного robots.txt. Приводят примеры грамотных robots.txt.
Главная мысль, как мне, конечно, показалось, что при неграмотном robots.txt поисковик будет индексировать много лишнего, что не есть гуд.
У меня такой вот простой robots.txt на нескольких сайтах
User-agent: *
Disallow: /wp-admin/
Disallow: /wp-includes/
Sitemap: http://www.site.ru/sitemap.xml.gz
Ну, и вроде ничего лишнего и не индексируется.
Вопрос.
Действительно ли грамотный robots.txt существенно на что-то влияет для среднестатистического сайта, где просто нужно,чтобы все проиндексировалось (записи, страницы).
Что как минимум можно внести дополнительного в приведенный, простой пример robots.tx
Cпасибо!
с вашим файлом поисковик будет индексировать все дубли и в лучшем случае после этого начнет выкидывать их из выдачи, а в худшем выкинет весь сайт.
у себя использую вот такой роботс:
Disallow: /wp-admin/
Disallow: /wp-includes/
Disallow: /wp-content/plugins/
Disallow: /wp-content/themes/
Disallow: /wp-content/cache/
Disallow: /*.php$
Disallow: /*.js$
Disallow: /*.inc$
Disallow: /*.css$
Disallow: */trackback
Disallow: */feed
Disallow: */comments
Disallow: /hometabpost/*
User-agent: Yandex
Disallow: /wp-admin/
Disallow: /wp-includes/
Disallow: /wp-content/plugins/
Disallow: /wp-content/themes/
Disallow: /wp-content/cache/
Disallow: /*.php$
Disallow: /*.js$
Disallow: /*.inc$
Disallow: /*.css$
Disallow: */trackback
Disallow: */feed
Disallow: */comments
Disallow: /hometabpost/*
Sitemap: http://site.ru/sitemap.xml
Host: site.ru
проблем с индексацией никаких не испытываю.
Cпасибо большое.
Robots такой использую давно. Сравнить не с чем. Весь сайт (ни один, ни другой, сайтов много разных делал) никогда не выкидывало.
А что такое дубли?
Для интернет магазина, я вроде понимаю, что такое дубли. Одинаковые названия товаров, соответственно,одинаковые названия страниц. Так?
А для не интернет магазина? Там же, как правило, у всех записей разные заголовки.
Могли бы вы указать на принципиальные отличия/ преимущества вашего роботс перед моим роботс.
Не в смысле, я наезжаю, а в смысле объяснить, в смысле, чтобы я понял в чем отличия/ преимущества.
Спасибо.
А что такое дубли?
Для интернет магазина, я вроде понимаю, что такое дубли. Одинаковые названия товаров, соответственно,одинаковые названия страниц. Так?
А для не интернет магазина? Там же, как правило, у всех записей разные заголовки.
Доступность одной страницы по разным адресам.
Зы Роботс пишется не для движка, а для структуры сайта.
Это не очень значимый фактор, подправив стоковый роботс вы особых изменений не ощутите
В роботсе имеет смысл закрывать мусорные страницы на которых мало контента и который совпадает с другими страницами
использую вот такой
Disallow: /*.php
Disallow: /wp-login.php
Disallow: /wp-register.php
Disallow: /xmlrpc.php
Disallow: /cgi-bin
Disallow: /wp-admin/
Disallow: /tmp/
Disallow: /wp-includes/
Disallow: /wp-content/plugins/
Disallow: /wp-content/languages
Disallow: /wp-content/cache/
Disallow: /wp-content/themes/
Disallow: /wp-content/updraft
Disallow: /wp-content/upgrade/
Allow: /wp-content/uploads
Disallow: /wp-trackback
Disallow: /trackback
Disallow: */trackback
Disallow: */trackback/
Disallow: /wp-feed
Disallow: /feed/
Disallow: */feed
Disallow: */feed/
Disallow: /?feed=
Disallow: /wp-comments
Disallow: */comments
Disallow: */comments/
Disallow: /webstat/
Disallow: /tag/
Disallow: /search/
Disallow: /goto/
Disallow: */sphinx/*
Disallow: */*.js*
Disallow: */?p*
Disallow: */?s*
Disallow: /*?*
Disallow: /*?
Disallow: /author/
Disallow: /page/
Disallow: /20*
Disallow: /*.zip
User-agent: Yandex
Disallow: /*.php
Disallow: /wp-login.php
Disallow: /wp-register.php
Disallow: /xmlrpc.php
Disallow: /cgi-bin
Disallow: /wp-admin/
Disallow: /tmp/
Disallow: /wp-includes/
Disallow: /wp-content/plugins/
Disallow: /wp-content/languages
Disallow: /wp-content/cache/
Disallow: /wp-content/themes/
Disallow: /wp-content/updraft
Disallow: /wp-content/upgrade/
Allow: /wp-content/uploads
Disallow: /wp-trackback
Disallow: /trackback
Disallow: */trackback
Disallow: */trackback/
Disallow: /wp-feed
Disallow: /feed/
Disallow: */feed
Disallow: */feed/
Disallow: /?feed=
Disallow: /wp-comments
Disallow: */comments
Disallow: */comments/
Disallow: /webstat/
Disallow: /tag/
Disallow: /search/
Disallow: /goto/
Disallow: */sphinx/*
Disallow: */*.js*
Disallow: */?p*
Disallow: */?s*
Disallow: /*?*
Disallow: /*?
Disallow: /author/
Disallow: /page/
Disallow: /20*
Disallow: /*.zip
Host: site.ru
Sitemap: http://www.site.ru/sitemap.xml