Все вопросы по robots.txt

N
На сайте с 10.01.2014
Offline
50
#811

подскажите как расшифровать данный robots.txt - что запрещает, что разрешает?

User-agent: *

Disallow: /*/

Sitemap: http://мойсайт.ru/=sitemap

User-Agent: Yandex

Disallow: /*/

Sitemap: http://мойсайт.ru/=sitemap

Host: мойсайт.ru

Гэмблинг ПП №1 (http://vulkanpartner.com?r=nEcjykHI) / Гэмблинг ПП №2 (http://gambling-partners.com/ref_partner/12346/) / Туристическая ПП (http://www.travelpayouts.com/?marker=77133.serch&locale=ru)
BlagFurer
На сайте с 09.12.2009
Offline
79
#812
nospamno:
подскажите как расшифровать данный robots.txt - что запрещает, что разрешает?

Вам уже ответили в отдельной теме /ru/forum/comment/14759336

Запрет индексации всех категорий на сайте кроме

site.ru?любаябелеберда

А так же дали грамотный совет использовать https://webmaster.yandex.ru/tools/robotstxt/

R_F
На сайте с 24.07.2015
Offline
46
R_F
#813

Поставил форум на директорию сайта site.ru/forum. Поскольку форум на отдельном движке, нужно прописать robots. Есть robots основного сайта и форума. Как их соединить в один?

Роботс WP

User-agent: *

Disallow: /cgi-bin
Disallow: /wp-admin
Disallow: /wp-includes
Disallow: /wp-content/plugins
Disallow: /wp-content/cache
Disallow: /wp-content/themes
Disallow: /trackback
Disallow: */trackback
Disallow: */*/trackback

User-agent: Yandex
Disallow: /cgi-bin
Disallow: /wp-admin
Disallow: /wp-includes
Disallow: /wp-content/plugins
Disallow: /wp-content/cache
Disallow: /wp-content/themes
Host: site.ru
Sitemap: site.ru/sitemap.xml

User-agent: Googlebot-Image
Allow: /wp-content/uploads/

User-agent: YandexImages
Allow: /wp-content/uploads/

Роботс phpbb

User-agent: * Disallow: /forum/faq.php

Disallow: /forum/mcp.php
Disallow: /forum/memberlist.php
Disallow: /forum/posting.php
Disallow: /forum/report.php
Disallow: /forum/search.php
Disallow: /forum/style.php
Disallow: /forum/ucp.php
Disallow: /forum/viewtopic.php?p=*
Disallow: /forum/viewtopic.php?f=*&t=*&start=0$
Disallow: /forum/viewtopic.php?f=*&t=*&view=next
Disallow: /forum/viewtopic.php?f=*&t=*&view=previous
Sitemap: /forum/sitemap.php
Clean-param: sid /forum/index.php
Clean-param: sid /forum/viewforum.php
Clean-param: sid /forum/viewtopic.php

User-agent: Yandex
Disallow: /forum/faq.php
Disallow: /forum/mcp.php
Disallow: /forum/memberlist.php
Disallow: /forum/posting.php
Disallow: /forum/report.php
Disallow: /forum/search.php
Disallow: /forum/style.php
Disallow: /forum/ucp.php
Disallow: /forum/viewtopic.php?p=*
Disallow: /forum/viewtopic.php?f=*&t=*&start=0$
Disallow: /forum/viewtopic.php?f=*&t=*&view=next
Disallow: /forum/viewtopic.php?f=*&t=*&view=previous
Host: site.ru
Sitemap: /forum/sitemap.php
Clean-param: sid /forum/index.php
Clean-param: sid /forum/viewforum.php
Clean-param: sid /forum/viewtopic.php
Svictor
На сайте с 16.01.2007
Offline
99
#814

Просто соедини их и вставляй в основной файл site.ru/robots.txt

User-agent: *
Disallow: /cgi-bin
Disallow: /wp-admin
Disallow: /wp-includes
Disallow: /wp-content/plugins
Disallow: /wp-content/cache
Disallow: /wp-content/themes
Disallow: /trackback
Disallow: */trackback
Disallow: */*/trackback
Disallow: /forum/faq.php
Disallow: /forum/mcp.php
Disallow: /forum/memberlist.php
Disallow: /forum/posting.php
Disallow: /forum/report.php
Disallow: /forum/search.php
Disallow: /forum/style.php
Disallow: /forum/ucp.php
Disallow: /forum/viewtopic.php?p=*
Disallow: /forum/viewtopic.php?f=*&t=*&start=0$
Disallow: /forum/viewtopic.php?f=*&t=*&view=next
Disallow: /forum/viewtopic.php?f=*&t=*&view=previous
Sitemap: site.ru/sitemap.xml
Sitemap: site.ru/forum/sitemap.php
Clean-param: sid /forum/index.php
Clean-param: sid /forum/viewforum.php
Clean-param: sid /forum/viewtopic.php

User-agent: Yandex
Disallow: /cgi-bin
Disallow: /wp-admin
Disallow: /wp-includes
Disallow: /wp-content/plugins
Disallow: /wp-content/cache
Disallow: /wp-content/themes
Disallow: /forum/faq.php
Disallow: /forum/mcp.php
Disallow: /forum/memberlist.php
Disallow: /forum/posting.php
Disallow: /forum/report.php
Disallow: /forum/search.php
Disallow: /forum/style.php
Disallow: /forum/ucp.php
Disallow: /forum/viewtopic.php?p=*
Disallow: /forum/viewtopic.php?f=*&t=*&start=0$
Disallow: /forum/viewtopic.php?f=*&t=*&view=next
Disallow: /forum/viewtopic.php?f=*&t=*&view=previous
Clean-param: sid /forum/index.php
Clean-param: sid /forum/viewforum.php
Clean-param: sid /forum/viewtopic.php
Host: site.ru
Sitemap: site.ru/sitemap.xml
Sitemap: site.ru/forum/sitemap.php

User-agent: Googlebot-Image
Allow: /wp-content/uploads/

User-agent: YandexImages
Allow: /wp-content/uploads/


Svictor
На сайте с 16.01.2007
Offline
99
#815
JesusJuce:
Привет всем. Не могли вы бы подсказать, как прописать в файле php код для отдельной страницы? Помогите пожалуйста.

Напиши движок который стоит.

Так будет проще тебе подсказать код.

Но если используете хотите простой код, то

    
if ($_SERVER['REQUEST_URI'] == "/")
{
print 'Мы на главной;
}

Дальше вместо / прописывайте папки или файлы на сайте.

T
На сайте с 29.08.2016
Offline
2
#816

Поясните,я новичок, для чего закрывать сайты от robots.txt?

F
На сайте с 05.11.2016
Offline
0
#817

Вечер добрый!

Такая проблема:

Есть сайт на WP, на моб. устройствах отображается нормально (добавляю скрин).

Но в выдаче гугла, почему-то под каждым 3-ем запросом гугл добавляет ссылку "Ваша страница не оптимизирована для моб. устройств" и при нажатии на нее попадаем на проверка от гугла, где по результатам он пишет, что

Страница не оптимизирована для мобильных устройств:

- Контент шире экрана

- Ссылки слишком близко друг к другу

и показывает совершенно корявое отображение сайта, которое совершенно не соответствует действительности (скрин прикрепляю)

Тут же есть пункт о том, что такое возможно, просто в robot. txt Гуглботу перекрыто доступ до каких-то разделов и из за этого такая хрень.

Сам robot. txt настроен стандартно под WP.

Посмотрите, пожалуйста и скажите из за чего это может быть и что в данном случае лишнее в robot. txt:

User-agent: *

Disallow: /wp-login.php

Disallow: /wp-register.php

Disallow: /feed/

Disallow: /cgi-bin

Disallow: /wp-admin

Disallow: /wp-includes

Disallow: /wp-content/plugins

Disallow: /wp-content/cache

Disallow: /wp-content/themes

Disallow: /trackback

Disallow: */comments

Disallow: /category/*/*

Disallow: */trackback

Disallow: */*/trackback

Disallow: */*/feed/*/

Disallow: */feed

Disallow: /*?*

Disallow: /?s=

User-agent: Yandex

Disallow: /wp-login.php

Disallow: /wp-register.php

Disallow: /feed/

Disallow: /cgi-bin

Disallow: /wp-admin

Disallow: /wp-includes

Disallow: /wp-content/plugins

Disallow: /wp-content/cache

Disallow: /wp-content/themes

Disallow: /trackback

Disallow: */comments

Disallow: /category/*/*

Disallow: */trackback

Disallow: */*/trackback

Disallow: */*/feed/*/

Disallow: */feed

Disallow: /*?*

Disallow: /?s=

Svictor
На сайте с 16.01.2007
Offline
99
#818
Fabian:
Вечер добрый!
Такая проблема:
Есть сайт на WP, на моб. устройствах отображается нормально (добавляю скрин).
Но в выдаче гугла, почему-то под каждым 3-ем запросом гугл добавляет ссылку "Ваша страница не оптимизирована для моб. устройств" и при нажатии на нее попадаем на проверка от гугла, где по результатам он пишет, что

Убери из списка следующие правила

Disallow: /wp-content/plugins

Disallow: /wp-content/themes

Проверить сайт или страницы оптимизированность под мобильную версию можно тут

F
На сайте с 05.11.2016
Offline
0
#819
Svictor:
Убери из списка следующие правила
Disallow: /wp-content/plugins

Disallow: /wp-content/themes


Проверить сайт или страницы оптимизированность под мобильную версию можно тут

Вот как раз гугл мне на основании этой проверки и говорит, что не оптимизирован.

А подскажите, пожалуйста, почему именно эти элементы?

Просто в результатах этой проверки, есть пункт:

"Как робот Googlebot видит страницу

Некоторые ресурсы страницы (20) заблокированы в файле robots.txt."

и среди этих элементов присутствует например вот такой:

http://germanylife.ru/wp-includes/cs....css?ver=4.5.4

Не значит ли это, что Disallow: /wp-includes тоже стоит убрать?

И еще как на счет Disallow: /wp-content/cache?

Читал на какой-то теме, что его тоже лучше разрешить

Svictor
На сайте с 16.01.2007
Offline
99
#820
Fabian:

Не значит ли это, что Disallow: /wp-includes тоже стоит убрать?
И еще как на счет Disallow: /wp-content/cache?

Disallow: /wp-includes

тоже можете убрать.

Disallow: /wp-content/cache

Этот я бы оставил, т.к не известно мне в каком формате хранится кэш.

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий