Подскажите, Гугл всегда забивает на Disallow в роботс ?

1 234
kimberlit
На сайте с 13.03.2007
Offline
370
#21
hasugosu:
И поймут ли остальные поисковики, что надо проиндексировать именно главную а не страницу site.com/index.php ?

А в этом роботсе об этом говорится?

Если у вас /index.php считается главной, то нафига звёздочка?

Бред, короче.

B
На сайте с 07.02.2005
Offline
161
#22

kimberlit, во-первых, я написал имхо. Во-вторых, не судите опрометчиво, как учит господин кардинал, возможно, то, что Вам кажется бредом таковым не является. Вы сами ничего конструктивного не предложили, верховным судией быть конечно легче. А в-третьих, я основывался на примере из мануала Гугла:


User-agent: *
Allow: /*?$
Disallow: /*?
The Disallow: / *? directive will block any URL that includes a ? (more specifically, it will block any URL that begins with your domain name, followed by any string, followed by a question mark, followed by any string).

The Allow: /*?$ directive will allow any URL that ends in a ? (more specifically, it will allow any URL that begins with your domain name, followed by a string, followed by a ?, with no characters after the ?).

только там знак вопроса, а здесь индекс.

hasugosu, насчет остальных не готов сказать что-то. Напишите отдельно для Googlebot...

kimberlit
На сайте с 13.03.2007
Offline
370
#23

bober, вы всегда главной страницей сайта делаете файл индекс?

bober:
Вы сами ничего конструктивного не предложили

Предложить какой-нибудь бред, наверное, почётнее в ваших глазах.

hasugosu
На сайте с 09.03.2006
Offline
132
#24

kimberlit предложите вариант для моей ситуации Вы :)

B
На сайте с 07.02.2005
Offline
161
#25
kimberlit:
bober, вы всегда главной страницей сайта делаете файл индекс?

Не всегда - а что, сообразить, что это просто пример, для гуру неподъемное усилие?

kimberlit:
Предложить какой-нибудь бред, наверное, почётнее в ваших глазах.

Я тут, знаете ли, за почетом не гоняюсь а стараюсь писать только по-существу (если могу) - видимо, в этом мы отличаемся.

E2
На сайте с 15.12.2006
Offline
128
#26

Забавный вопрос )

Может сделать (временно) все внутренние ссылки через редирект-скрипт /go.php, а его закрыть в Disallow (как делают для внешних ссылок)?

А то чего-то эти трюки с Allow меня сильно путают.

Ап! И тигры у ног моих сели.
hasugosu
На сайте с 09.03.2006
Offline
132
#27
error2k:
Забавный вопрос )
Может сделать (временно) все внутренние ссылки через редирект-скрипт /go.php, а его закрыть в Disallow (как делают для внешних ссылок)?

А то чего-то эти трюки с Allow меня сильно путают.

Это для меня тяжеловато :(

Уже пару недель, как убрал allow, закрыл все в dissalow http://sex-porn-xxx.com/robots.txt

Но гугл все равно продолжает жрать недоделанный сайт :( http://google.com/search?&q=site:sex-porn-xxx.com&filter=0

Он всегда так долго реагирует ? И потом просто выплюнет лишнее, или я опять где то накосячил ?

Спасибо за ответы!

TM
На сайте с 28.10.2008
Offline
70
#28
disker:
Интересная тема. Нашел тоже у себя на сайте на вордпрессе в роботс Allow. Всё никак не мог понять почему гугл индексирует страницы на сайте, хотя в роботс конкретно прописано Disallow: /page/
Удалил Allow, теперь буду наблюдать дальнейшие действия гугла.

Да пофиг гуглю на дизалов.

Немного может понижает в выдаче, но в индексе страницы все равно висят.

Уже года 2 как поставил страницу в дизалов

..../robots.txt

.

но до сих пор она в индексе, и в выдаче

Если нужно, могу в личку скинуть урл

hasugosu
На сайте с 09.03.2006
Offline
132
#29

Во блин. И че делать, просто забить ?

Если бы знал, сразу бы закрыл сайт под пароль до окончания работ и настройки.

А так вышло, что кучу не готовых и кривых страниц, без текста итп он захавал ((

B
На сайте с 07.02.2005
Offline
161
#30

hasugosu, Вы же, кажется, собирались почитать мануал Гугла, но так этого и не сделали?

Строки

Disallow: /categories/*

Disallow: /page/*

ничего не закрывают, чтобы закрыть эти директории, уберите звездочки:

Disallow: /categories/

Disallow: /page/

чтобы закрыть поддиректории:

Disallow: /categories*/

Сделайте в соответствии с синтаксисом Гугла, а потом здесь покажите, будут эти директории индексироваться или нет.

1 234

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий