Когда Host из robots.txt начнет учитываться?

123
T.R.O.N
На сайте с 18.05.2004
Offline
314
#11
Pall:
Напрямую сказал, что не учитывает

Правило, он не учитывает, это естественно. Как Вы определили что гугл будет игнорировать весь блок?

Shadow:
вы уверены? если я не ошибаюсь 301-й редирект ставится для гугла, а яндекс никогда не склеит если будет стоять редирект.

Редирект спасает, верно, но если Вы его хотите использовать. Я стараюсь его не ставить. Если ссылки, в основной массе, ведут на нужное зеркало, то все будет нормально. И гугл и яша и рама, - все понимают корректно.

Я стараюсь не использовать

От воздержания пока никто не умер. Хотя никто и не родился! Prototype.js был написан теми, кто не знает JavaScript, для тех, кто не знает JavaScript (Richard Cornford)
Stripe
На сайте с 05.09.2006
Offline
222
#12
Ilya Rudomilov:
Уже с месяц стоит http://photo.kamforum.ru/robots.txt, явно указывающий на photo.kamforum.ru

Я ждал 3 месяца

Сайты от 30р почти по любой теме или наполнение ваших сайтов (/ru/forum/887821) дешевым контентом. Базы товаров и контента (http://nakovalnja.ru). Вечные ссылки за 1$ или 30р. (/ru/forum/741397)
B
На сайте с 29.01.2007
Offline
141
#13

Илья, я ждал долго, потом написал Платону, на что получил ответ, типа ждите, в течении 3-4 недель придет бот-робот-хзкто и все будет нормально. Через меньше чем 2 недели все встало на свои места. Пишите Платoну

Margo
На сайте с 29.10.2005
Offline
188
#14

ни разу более трех- четырех недель не приходилось ждать...

Rimlyanin
На сайте с 22.02.2006
Offline
200
#15

хост в роботс для робота лишь рекомендация...

Преставьть что с зеркала в роботс хост прописан на другой домен, на котором на главной стоит редирект на третий домен, как быть зеркальщику?

Dmitry V___v
На сайте с 07.12.2006
Offline
310
#16
T.R.O.N:
Правило, он не учитывает, это естественно. Как Вы определили что гугл будет игнорировать весь блок?

Интересно, гугл пропустит директиву "host:", но учтет всё, что за ней идет? т.е. "www.hhh.ru"? невъезжаю в глубинный смысл под конец дня чего-то... :(

Создание и ведение кампаний Google/Bing/Twitter/FB Ads под USA, Canada, United Kingdom and Australia ( https://searchengines.guru/ru/forum/1028286 ) + жирный линкбилдинг под бурж ( https://searchengines.guru/ru/forum/1028282 )
Rimlyanin
На сайте с 22.02.2006
Offline
200
#17
Pall:
Интересно, гугл пропустит директиву "host:", но учтет всё, что за ней идет? т.е. "www.hhh.ru"? невъезжаю в глубинный смысл под конец дня чего-то... :(

Для Яндекса прописываю отдельный блок в роботс и все отлично...

Dmitry V___v
На сайте с 07.12.2006
Offline
310
#18
Rimlyanin:
Для Яндекса прописываю отдельный блок в роботс и все отлично...

А... Вот теперь вкурил, что за блок 🚬... Надо срочно ручник на автомат менять... Торможу сильно 🙄

В этм случае да... Гуглбот пропустит блок, предназначеный яндексботу :)

Rimlyanin
На сайте с 22.02.2006
Offline
200
#19
Pall:
А... Вот теперь вкурил, что за блок 🚬... Надо срочно ручник на автомат менять... Торможу сильно 🙄
В этм случае да... Гуглбот пропустит блок, предназначеный яндексботу :)

Вот пример, писал сейчас навскидку, поэтому прошу сильно не ругать:


# allrobots for http://site.ru
User-agent: *
Disallow: /admincp/
Disallow: /includes/
Disallow: /javascript/
Disallow: /modules/
Disallow: /templates/

# Yandex for http://site.ru
User-agent: Yandex
Disallow: /includes/
Disallow: /javascript/
Disallow: /modules/
Disallow: /templates/
Host: site.ru
Dmitry V___v
На сайте с 07.12.2006
Offline
310
#20
Rimlyanin:
Вот пример, писал сейчас навскидку, поэтому прошу сильно не ругать:

Нормальный вроде :) На первый взгляд...

Я вот сейчас лазал на robotstxt.org, Почему-то не могу вкурить, как кошернее прописывть папку в роботс - как /folder/ или как /folder

Вроде и так, и так считается правильным, а вот как на самом деле ЛУЧШЕ?

123

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий