Яндекс не слушается команд в robots.txt

123
Jafar
На сайте с 04.06.2008
Offline
48
#11
Seo_Barin:
kimberlit, У него действительно не правильно написан.

Все теперь работает.

User-agent: Yandex

Disallow: /administrator

Disallow: /cache

Disallow: /components

Disallow: /includes

Disallow: /installation

Disallow: /language

Disallow: /libraries

Disallow: /media

Disallow: /modules

Disallow: /plugins

Disallow: /templates

Disallow: /tmp

Disallow: /xmlrpc

Disallow: /rss

Disallow: /atom

Disallow: /*tag

Crawl-delay: 1

Host: site.ru

Sitemap: site.ru/sitemap.xml

#kletka#
На сайте с 15.04.2004
Offline
170
#12

Яндекс бот чувствителен к регистру урла. Т.е если напишите:

Disallow: forum/

а на деле у вас ForUM, то он пройдет и будет индексировать

Продаю фото со всех фотобанков по 1$ по Расширенной лицензии. Skype: kletka79
DyaDya
На сайте с 11.04.2007
Offline
147
#13

Вроде нормульно всё...

Jafar:
В Яндекс.вебмастере: Документ запрещен в файле robots.txt

Не путайте то, что в Вебмастере пишется и то, что запрещено непосредственно в robots.txt !

Проверяйте здесь. Всё ОК! Запрещено правильно.

---

site.ru/tag/ещё_что-нидь - такие фильтрует.

Если, речь идёт о ссылке, типа site.ru/ещё_папка/tag/, то такие в пролёте, под правило запрета не попадут.

Выбирайте качественный хостинг (http://vashmaster.ru/informaciya/o_poleznyh_programmah/news83.php) и продвигайте сайты в СЕОПУЛЬТ (http://seopult.ru/ref.php?ref=72b5ed9561fe66a1). А на «SAPE» я в обиде :) Не упрекайте за очепятки, пишу вслепую (http://ergosolo.ru/) и также делаю сайты (http://www.vashmaster.ru/) ;)
kysok sabaki
На сайте с 27.02.2008
Offline
197
#14
kimberlit:

Кусок сабаки, ты сам лучше почитай мануал.
1. начало должно быть со слеша
2. звёздочка в конце необязательна (по умолчанию идёт)

Конечно прочитал

Спецсимвол '*' означает любую (в том числе пустую) последовательность символов

и нет уточнения - в начале или в конце.

Если я не прав, то приведите цитату из источника.

И потом, попробуйте в панели.вм предложенный мной вариант.

kimberlit
На сайте с 13.03.2007
Offline
370
#15

Jafar, так у тебя url такие что ли: site.ru/blabla/tag/ ???

[Удален]
#16
Jafar:
Все теперь работает.
User-agent: Yandex
Disallow: /administrator
Disallow: /cache
Disallow: /components
Disallow: /includes
Disallow: /installation
Disallow: /language
Disallow: /libraries
Disallow: /media
Disallow: /modules
Disallow: /plugins
Disallow: /templates
Disallow: /tmp
Disallow: /xmlrpc
Disallow: /rss
Disallow: /atom
Disallow: /*tag
Crawl-delay: 1
Host: site.ru
Sitemap: site.ru/sitemap.xml

теперь у тебя только последняя команда читаться будет..

User-agent: Yandex

Disallow: /administrator

Disallow: /cache

Disallow: /components

Disallow: /includes

Disallow: /installation

Disallow: /language

Disallow: /libraries

Disallow: /media

Disallow: /modules

Disallow: /plugins

Disallow: /templates

Disallow: /tmp

Disallow: /xmlrpc

Disallow: /rss

Disallow: /atom

Disallow: /*tag

А вот так будет пахать..

DyaDya
На сайте с 11.04.2007
Offline
147
#17
Seo_Barin:
через строку команды

через строку писать уж точно не рекомендуется.

Jafar
На сайте с 04.06.2008
Offline
48
#18
kimberlit:
Jafar, так у тебя url такие что ли: site.ru/blabla/tag/ ???

Да, в этом был косяк. Некоторые урлы были .ru/component/tag/...

kimberlit
На сайте с 13.03.2007
Offline
370
#19
Jafar:
Да, в этом был косяк. Некоторые урлы были .ru/component/tag/...

Ясно.

Seo_Barin:
User-agent: Yandex

Disallow: /administrator

Disallow: /cache

Disallow: /components

Disallow: /includes

Disallow: /installation

Disallow: /language

Disallow: /libraries

Disallow: /media

Disallow: /modules

Disallow: /plugins

Disallow: /templates

Disallow: /tmp

Disallow: /xmlrpc

Disallow: /rss

Disallow: /atom

Disallow: /*tag

А вот так будет пахать..

Сео барин, ты глупость пишешь ))) Учи матчасть.

[Удален]
#20

Ах да и сайт мапа указывается так:

Sitemap: http://www.xxxxxxxx.com/sitemap.xml

Seo_Barin добавил 24.02.2010 в 12:34

kimberlit:
Ясно.

Сео барин, ты глупость пишешь ))) Учи матчасть.

Возможно, но так работает - почему ?

123

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий