robot.txt и adsense

E8
На сайте с 03.10.2006
Offline
32
1660

слышал, что robot.txt плохо влияет на едсенс.

Правда ли это?

SF
На сайте с 11.10.2005
Offline
137
#1

Решил сделать доброе дело и ответить на этот вопрос.

  • Если вы запретите в robots.txt индексировать какие то страницы вашего сайта он не будет их индексировать.
  • Я не могу сказать хорошо или плохо влияет robots.txt на AdSense, все зависит от того что вебмастер прописал в роботсе и чего хотел получить. Обычно robots.txt не виноват, виноват вебмастер который пишет кривой роботс. :)
Инструкция: Как Правильно Делать Сайты: Домен, Хостинг, Установка CMS (http://www.3sd.ru/kak-delat-site/index.php).
A
На сайте с 25.02.2006
Offline
173
#2
e998:
слышал, что robot.txt плохо влияет на едсенс.
Правда ли это?

Правда. Адсенс от роботсов тошнит :)

E8
На сайте с 03.10.2006
Offline
32
#3

А если ничего не запрешать в robot.txt. Написать:

User-Agent: *

Disallow: /cgi-bin/

есть ли смысль кидать роботс?

И, достаточно кинуть в корневую, или недо и в папки, если есть сабдомены?

PC
На сайте с 09.03.2006
Offline
19
#4
e998:
User-Agent: *
Disallow: /cgi-bin/
есть ли смысль кидать роботс?

Да желательно положить такой роботс, что бы не было 404 ошибки, (мне кажется что 404 ошибки лишний раз напрягают сервер, ИМХО)

e998:
И, достаточно кинуть в корневую, или недо и в папки, если есть сабдомены?

На поддомены желательно тоже ложить robots.txt,

по крайней мере на моих поддоменах поисковики его спрашивают и что бы не генерить 404 ошибки я положил в корень субдоменов роботсы

User-Agent: *
Disallow:

Хотя можно и плюнуть на это, это не критично... :)

[Удален]
#5
e998:
слышал, что robot.txt плохо влияет на едсенс.

robot.txt вообще ни на что не влияет

A
На сайте с 25.02.2006
Offline
173
#6
e998:
А если ничего не запрешать в robot.txt. Написать:

User-Agent: *
Disallow: /cgi-bin/

есть ли смысль кидать роботс?

И, достаточно кинуть в корневую, или недо и в папки, если есть сабдомены?

Файлы robot.txt поисковиками не используются. Используются файлы robots.txt

Если такого файла в корне не существует, то будут просто писаться ошибки в error.log, то есть файл должен быть хотя бы и пустой. Совершенно не обязательно в нем что-то писать, так как роботы идут сверху вниз по тексту и ищут не разрешения, а запреты. Пустой файл просто обозначает отсутствие запретов.

В папки его класть не нужно - один на весь домен. Даже на запрещенных к индексации страницах адсенс будет работать, но в Вашей учетной записи на странице с ошибками будут отражены недоступные URL.

Вы сами себе противоречите, сначала пишете "ничего не запрещать", а потом пишете запрет на доступ к любым файлам из cgi-bin.

E8
На сайте с 03.10.2006
Offline
32
#7
Aleks_:
но в Вашей учетной записи на странице с ошибками будут отражены недоступные URL.
Вы сами себе противоречите, сначала пишете "ничего не запрещать", а потом пишете запрет на доступ к любым файлам из cgi-bin.

"недоступные URL" - небыло никогда.

Наверно так

-----------------------

User-agent: *

Disallow: /

-----------------------

A
На сайте с 25.02.2006
Offline
173
#8
e998:
"недоступные URL" - небыло никогда.

Наверно так
-----------------------
User-agent: *
Disallow: /
-----------------------

отчеты- диагностика сайта - Заблокированные урл.

Disallow: / - полный запрет индексации всего домена.

E8
На сайте с 03.10.2006
Offline
32
#9

Aleks_

Disallow: / - полный запрет индексации всего домена.

А как же разрешать. т.е. не запрешать? :)

отчеты- диагностика сайта - Заблокированные урл

Я имел ввиду, что по этому адресу у меня всегда было чисто. Т.е. нет заблокированных урл :)

A
На сайте с 25.02.2006
Offline
173
#10
e998:
Aleks_

А как же разрешать. т.е. не запрешать? :)


Я имел ввиду, что по этому адресу у меня всегда было чисто. Т.е. нет заблокированных урл :)

Отсутствие запрета - это разрешение. Пишется только то что запрещено. Если все разрешено, то либо отсутствует robots.txt, либо он пустой внутри, что лучше так как не пишутся ошибки в error.log

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий