Форум Практика оптимизации Любые вопросы от новичков по оптимизации

robot.txt + Joomla

12
R
На сайте с 16.01.2008
Offline
12
rosalin
1181

Ребята хостер РБК ругаеться что мой портал http://bukharapiter.ru перегружает сервер

Стал стал оптимизировать сайто дошел до robot.txt задача сделать достып для основных поисковиков и индексировать только контент

вот что получилось поправте плиз 

# For domain: http://bukharapiter.ru



# main section

User-agent:*

Allow: /index.php?option=com_rd_rss&id=2 

Allow: /index.php?option=com_xmap&sitemap=1&view=xml&no_html=1

Disallow: /administrator/

Disallow: /cache/

Disallow: /components/

Disallow: /editor/

Disallow: /help/

Disallow: /images/

Disallow: /includes/

Disallow: /language/

Disallow: /mambots/

Disallow: /media/

Disallow: /modules/

Disallow: /templates/

Disallow: /installation/

Disallow: /awstats/

Crawl-delay: 10

Sitemap: http://bukharapiter.ru/index.php?option=com_xmap&sitemap=1&view=xml&no_html=1 

# End of main section



# Images section

# End of images section



# disallow for main site downloaders section\nUser-agent: Aqua_Products

Disallow: /



User-agent: asterias

Disallow: /



User-agent: b2w/0.1

Disallow: /



User-agent: BackDoorBot/1.0

Disallow: /



User-agent: Black Hole

Disallow: /



User-agent: BlowFish/1.0

Disallow: /



User-agent: Bookmark search tool

Disallow: /



User-agent: BotALot

Disallow: /



User-agent: BuiltBotTough

Disallow: /



User-agent: Bullseye/1.0

Disallow: /



User-agent: BunnySlippers

Disallow: /



User-agent: Cegbfeieh

Disallow: /



User-agent: CheeseBot

Disallow: /



User-agent: CherryPicker

Disallow: /



User-agent: CherryPicker /1.0

Disallow: /



User-agent: CherryPickerElite/1.0

Disallow: /



User-agent: CherryPickerSE/1.0

Disallow: /



User-agent: CopyRightCheck

Disallow: /



User-agent: cosmos

Disallow: /



User-agent: Crescent

Disallow: /



User-agent: Crescent Internet ToolPak HTTP OLE Control v.1.0

Disallow: /



User-agent: DittoSpyder

Disallow: /



User-agent: EmailCollector

Disallow: /



User-agent: EmailSiphon

Disallow: /



User-agent: EmailWolf

Disallow: /



User-agent: EroCrawler

Disallow: /



User-agent: ExtractorPro

Disallow: /



User-agent: FairAd Client

Disallow: /



User-agent: Flaming AttackBot

Disallow: /



User-agent: Foobot

Disallow: /



User-agent: Gaisbot

Disallow: /



User-agent: GetRight/4.2

Disallow: /



User-agent: grub

Disallow: /



User-agent: grub-client

Disallow: /



User-agent: Harvest/1.5

Disallow: /



User-agent: hloader

Disallow: /



User-agent: httplib

Disallow: /



User-agent: humanlinks

Disallow: /



User-agent: InfoNaviRobot

Disallow: /



User-agent: Iron33/1.0.2

Disallow: /



User-agent: JennyBot

Disallow: /



User-agent: Kenjin Spider

Disallow: /



User-agent: Kenjin Spider

Disallow: /



User-agent: Keyword Density/0.9

Disallow: /



User-agent: larbin

Disallow: /



User-agent: LexiBot

Disallow: /



User-agent: libWeb/clsHTTP

Disallow: /



User-agent: LinkextractorPro

Disallow: /



User-agent: LinkScan/8.1a Unix

Disallow: /



User-agent: LinkWalker

Disallow: /



User-agent: LNSpiderguy

Disallow: /



User-agent: lwp-trivial

Disallow: /



User-agent: lwp-trivial/1.34

Disallow: /



User-agent: Mata Hari

Disallow: /



User-agent: Microsoft URL Control

Disallow: /



User-agent: Microsoft URL Control - 5.01.4511

Disallow: /



User-agent: Microsoft URL Control - 6.00.8169

Disallow: /



User-agent: MIIxpc

Disallow: /



User-agent: MIIxpc/4.2

Disallow: /



User-agent: Mister PiX

Disallow: /



User-agent: moget

Disallow: /



User-agent: moget/2.1

Disallow: /



User-agent: Mozilla/4.0 (compatible; BullsEye; Windows 95)

Disallow: /



User-agent: MSIECrawler

Disallow: /



User-agent: NetAnts

Disallow: /



User-agent: NetMechanic

Disallow: /



User-agent: NICErsPRO

Disallow: /



User-agent: Offline Explorer

Disallow: /



User-agent: Openbot

Disallow: /



User-agent: Openfind

Disallow: /



User-agent: Openfind data gathere

Disallow: /



User-agent: Oracle Ultra Search

Disallow: /



User-agent: PerMan

Disallow: /



User-agent: ProPowerBot/2.14

Disallow: /



User-agent: ProWebWalker

Disallow: /



User-agent: Python-urllib

Disallow: /



User-agent: QueryN Metasearch

Disallow: /



User-agent: Radiation Retriever 1.1

Disallow: /



User-agent: RepoMonkey

Disallow: /



User-agent: RepoMonkey Bait & Tackle/v1.01

Disallow: /



User-agent: RMA

Disallow: /



User-agent: searchpreview

Disallow: /



User-agent: SiteSnagger

Disallow: /



User-agent: SpankBot

Disallow: /



User-agent: spanner

Disallow: /



User-agent: suzuran

Disallow: /



User-agent: Szukacz/1.4

Disallow: /



User-agent: Teleport

Disallow: /



User-agent: TeleportPro

Disallow: /



User-agent: Telesoft

Disallow: /



User-agent: The Intraformant

Disallow: /



User-agent: TheNomad

Disallow: /



User-agent: TightTwatBot

Disallow: /



User-agent: Titan

Disallow: /



User-agent: toCrawl/UrlDispatcher

Disallow: /



User-agent: True_Robot

Disallow: /



User-agent: True_Robot/1.0

Disallow: /



User-agent: turingos

Disallow: /



User-agent: URL Control

Disallow: /



User-agent: URL_Spider_Pro

Disallow: /



User-agent: URLy Warning

Disallow: /



User-agent: VCI

Disallow: /



User-agent: VCI WebViewer VCI WebViewer Win32

Disallow: /



User-agent: Web Image Collector

Disallow: /



User-agent: WebAuto

Disallow: /



User-agent: WebBandit

Disallow: /



User-agent: WebBandit/3.50

Disallow: /



User-agent: WebCopier

Disallow: /



User-agent: WebEnhancer

Disallow: /



User-agent: WebmasterWorldForumBot

Disallow: /



User-agent: WebSauger

Disallow: /



User-agent: Website Quester

Disallow: /



User-agent: Webster Pro

Disallow: /



User-agent: WebStripper

Disallow: /



User-agent: WebZip

Disallow: /



User-agent: WebZip/4.0

Disallow: /



User-agent: Wget

Disallow: /



User-agent: Wget/1.5.3

Disallow: /



User-agent: Wget/1.6

Disallow: /



User-agent: WWW-Collector-E

Disallow: /



User-agent: Xenu's

Disallow: /



User-agent: Xenu's Link Sleuth 1.1c

Disallow: /



User-agent: Zeus

Disallow: /



User-agent: Zeus 32297 Webster Pro V2.9 Win32

Disallow: /



User-agent: Zeus Link Scout

Disallow: /



# end of downloaders section



User-agent: Yandex

Host: bukharapiter.ru
Rimlyanin
На сайте с 22.02.2006
Offline
200
Rimlyanin
#1

я могу ошибатся, но мне кажется что яшке разрешено индексировать все?

stifler_x
На сайте с 19.06.2008
Offline
193
stifler_x
#2

Rimlyanin, ошибаетесь...

User-agent:*
Allow: /index.php?option=com_rd_rss&id=2
Allow: /index.php?option=com_xmap&sitemap=1&view=xml&no_html=1
Disallow: /administrator/
Disallow: /cache/
Disallow: /components/
Disallow: /editor/
Disallow: /help/
Disallow: /images/
Disallow: /includes/
Disallow: /language/
Disallow: /mambots/
Disallow: /media/
Disallow: /modules/
Disallow: /templates/
Disallow: /installation/
Disallow: /awstats/
Crawl-delay: 10

Это яшка поймет

Rimlyanin
На сайте с 22.02.2006
Offline
200
Rimlyanin
#3
stifler_x:
Rimlyanin, ошибаетесь...

Это яшка поймет

но в самом низу :

User-agent: Yandex
Host: bukharapiter.ru

а робот вроде читает(использует, или как по другому сказать? слушается только директив из) только свою секцию?

arsenk
На сайте с 25.09.2007
Offline
142
arsenk
#4
rosalin:
User-agent:*

Это и есть его секция (его и всех остальных) ))

Человека больше убеждают утверждения, до которых он додумался сам, чем те, до которых додумались другие
Цахес
На сайте с 15.03.2007
Offline
205
Цахес
#5
arsenk:
User-agent:*
Это и есть его секция

Вы не правы.

В файле robots.txt проверяется наличие записей, начинающихся с "User-agent:", в них ищутся подстроки "Yandex", либо "*", причем, если обнаружено "User-agent: Yandex", директивы для "User-agent: *" не учитываются.

- Хорошие и плохие тексты для ваших сайтов (http://www.textsale.ru/team57397.html). - Удаленная работа. Вакансия копирайтера/рерайтера. (http://advego.ru/6myq8sgvKk) - Быстрое составление семантического ядра (https://topvisor.ru/?inv=39380).
SMooVE
На сайте с 27.01.2009
Offline
60
SMooVE
#6

а какая посещалка вашего сайта ????? Если вы решили оптимизировать robot, то дожна быть как минимум 3-4 K юзеров в сутки....

До этмих параметров joomla прекрасно работает без оптимизации вообще! Только нужно поставить компонент кеширования и его настроить.

FeoOne
На сайте с 27.12.2008
Offline
32
FeoOne
#7

robots.txt

FeoOne добавил 12.04.2009 в 11:56

User-agent:*
Disallow: /administrator/
Disallow: /cache/
Disallow: /components/
Disallow: /editor/
Disallow: /help/
Disallow: /images/
Disallow: /includes/
Disallow: /language/
Disallow: /mambots/
Disallow: /media/
Disallow: /modules/
Disallow: /templates/
Disallow: /installation/
Disallow: /awstats/
Sitemap: http://bukharapiter.ru/index.php?option=com_xmap&sitemap=1&view=xml&no_html=1

User-agent: Yandex
Disallow: /administrator/
Disallow: /cache/
Disallow: /components/
Disallow: /editor/
Disallow: /help/
Disallow: /images/
Disallow: /includes/
Disallow: /language/
Disallow: /mambots/
Disallow: /media/
Disallow: /modules/
Disallow: /templates/
Disallow: /installation/
Disallow: /awstats/
Sitemap: http://bukharapiter.ru/index.php?option=com_xmap&sitemap=1&view=xml&no_html=1
Host: bukharapiter.ru
Crawl-delay: 10

FeoOne добавил 12.04.2009 в 11:57

SMooVE:
а какая посещалка вашего сайта ????? Если вы решили оптимизировать robot, то дожна быть как минимум 3-4 K юзеров в сутки

что за бред, как связаны robots.txt и посещалка?

SMooVE
На сайте с 27.01.2009
Offline
60
SMooVE
#8
FeoOne:
robots.txt
что за бред, как связаны robots.txt и посещалка?

У ТС проблемы с нагрузкой на сервер и он хочет оптимизировать файл, что-бы поисковики не добавляли этой нагрузки.... А я говорю, что есть намного более умные методы добиться такого результата

А вот зачем писать одинаковые правила по 50 раз я не понимаю.... У вас есть строчка User-agent:* и вы еще то же самое прописываете отдельно для Яши.... ???? Яша не дурак, он и в первый раз все понимает.

Нужно забанить ботов htaccess Вопрос по регистрам в Видео находится за пределами
R
На сайте с 16.01.2008
Offline
12
rosalin
#9
FeoOne:
robots.txt

FeoOne добавил 12.04.2009 в 11:56 
User-agent:*

Disallow: /administrator/

Disallow: /cache/

Disallow: /components/

Disallow: /editor/

Disallow: /help/

Disallow: /images/

Disallow: /includes/

Disallow: /language/

Disallow: /mambots/

Disallow: /media/

Disallow: /modules/

Disallow: /templates/

Disallow: /installation/

Disallow: /awstats/

Sitemap: http://bukharapiter.ru/index.php?option=com_xmap&sitemap=1&view=xml&no_html=1



User-agent: Yandex

Disallow: /administrator/

Disallow: /cache/

Disallow: /components/

Disallow: /editor/

Disallow: /help/

Disallow: /images/

Disallow: /includes/

Disallow: /language/

Disallow: /mambots/

Disallow: /media/

Disallow: /modules/

Disallow: /templates/

Disallow: /installation/

Disallow: /awstats/

Sitemap: http://bukharapiter.ru/index.php?option=com_xmap&sitemap=1&view=xml&no_html=1

Host: bukharapiter.ru

Crawl-delay: 10


FeoOne добавил 12.04.2009 в 11:57

что за бред, как связаны robots.txt и посещалка?

Так как всеже правильнее будет вот в чем вопрос ???

Цахес
На сайте с 15.03.2007
Offline
205
Цахес
#10
rosalin:
Так как всеже правильнее будет вот в чем вопрос ???

Сделайте так:

User-agent:*

Disallow: /administrator/

Disallow: /cache/

Disallow: /components/

Disallow: /editor/

Disallow: /help/

Disallow: /images/

Disallow: /includes/

Disallow: /language/

Disallow: /mambots/

Disallow: /media/

Disallow: /modules/

Disallow: /templates/

Disallow: /installation/

Disallow: /awstats/

Host: bukharapiter.ru

Crawl-delay: 10

Sitemap: http://bukharapiter.ru/index.php?option=com_xmap&sitemap=1&view=xml&no_html=1

12

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий