robots.txt

12
T
На сайте с 27.03.2012
Offline
41
570

Задача была такова: Составить robots.txt чтоб он индексировал только страницы вида: primer.html и главную страницу.

В итоге вот что получилось:

User-agent: *

Allow: /$

Allow: /*html$

Disallow: /

Host: site.ru

Sitemap: http://site.ru/sitemap.xml

Что скажите?

Garin33
На сайте с 31.08.2009
Offline
169
#1
Потому что Drupal - это круто.
T
На сайте с 27.03.2012
Offline
41
#2

Я знаю про такой сервис. Но всё же меня интересуют мои закарючки. Им можно доверять? Сайт будет быстрее индексироваться? 3-ю неделю после отправки в индекс Яша его не видит...

Garin33
На сайте с 31.08.2009
Offline
169
#3

Закорючки в роботсе никак не влияют на скорость индексации.

[Удален]
#4
talerbiz:
Сайт будет быстрее индексироваться?

Сайт быстрее не индексируется от этого

T
На сайте с 27.03.2012
Offline
41
#5

Но почему же? Если убрать всё лишнее роботу будет проще индексировать. В данном роботсе я и хочу оставить для индексации лишь контент.

[Удален]
#6
talerbiz:
Если убрать всё лишнее роботу будет проще индексировать.

смотря сколько страниц на сайте, да и то под вопросом.

Garin33
На сайте с 31.08.2009
Offline
169
#7
talerbiz:
Но почему же? Если убрать всё лишнее роботу будет проще индексировать. В данном роботсе я и хочу оставить для индексации лишь контент.

Вы видимо не представляете себе какие мощностя у поисковых ботов. Ваша сотня страниц для них - чих. Они миллионами страниц ворочают, и ничего, справляются.

[Удален]
#8

Идея интересная конечно, но бесполезная. С мощностями ПС ботов - бессмыслено.

Shessmaster
На сайте с 15.10.2007
Offline
240
#9
talerbiz:
Задача была такова: Составить robots.txt чтоб он индексировал только страницы вида: primer.html и главную страницу.
В итоге вот что получилось:

User-agent: *
Allow: /$
Allow: /*html$
Disallow: /
Host: site.ru
Sitemap: http://site.ru/sitemap.xml

Что скажите?

Роботс запрещает скачивать все, кроме html файлов.

User-agent: *

Allow: /*.html$

Disallow: /

kimberlit
На сайте с 13.03.2007
Offline
370
#10
Shessmaster:
Роботс запрещает скачивать все, кроме html файлов.

User-agent: *
Allow: /*.html$
Disallow: /

А главная? *недоумевающий смайл*

12

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий