robot.txt

12
G
На сайте с 26.08.2017
Offline
19
1970

Если на сайте все страницы должны быть доступны для поисковиков, то нужно ли создавать robot.txt?

Если для этого случая нужен robot.txt, то будет ли этих строк достаточно?

User-agent: *
Disallow:

Сообщение в Yandex Webmaster:

Не найден файл robots.txt

Робот не смог получить доступ к файлу robots.txt при последнем обращении. Из-за отсутствия параметров индексирования и инструкций в поиск могут попасть нежелательные страницы.

Добавьте файл robots.txt.

Сообщение в Google Console:

На сайте не обнаружен файл robots.txt. Робот будет сканировать весь контент без ограничений.

H
На сайте с 01.04.2014
Offline
571
Had
#1
goyan:
Если на сайте все страницы должны быть доступны для поисковиков, то нужно ли создавать robot.txt?

Да.

goyan:
User-agent: *
Disallow:

Это хрень. Надо так:

User-agent: *
Allow: /

Sitemap: http://site.ru/sitemap.xml
Host: site.ru

Сайтмап не обязателен. А хост желателен, пишется без хттп.

ТР
На сайте с 24.09.2016
Offline
224
#2
Had:



Сайтмап не обязателен. А хост желателен, пишется без хттп.

А разве сейчас Яндекс директиву Host учитывает? Они же вроде писали, что необязательно ее упоминать.

Как копирайтеру хорошо зарабатывать (https://copywriting-tarasov.ru/?p=613) https://copywriting-tarasov.ru/ (https://copywriting-tarasov.ru/) Бесплатный аудит РК в Яндекс.Директе
Оптимизайка
На сайте с 11.03.2012
Offline
396
#3
goyan:
нужно ли создавать robot.txt?

robots.txt

⭐ BotGuard (https://botguard.net) ⭐ — защита вашего сайта от вредоносных ботов, воровства контента, клонирования, спама и хакерских атак!
H
На сайте с 01.04.2014
Offline
571
Had
#4
Тарасов Роман:
А разве сейчас Яндекс директиву Host учитывает?

Месяц назад читал, что да, учитывает и он нужен. В Яндекс блоге читал.

ТР
На сайте с 24.09.2016
Offline
224
#5
Had:
Месяц назад читал, что да, учитывает и он нужен. В Яндекс блоге читал.

Сейчас посмотрел, нашел только вот это https://webmaster.yandex.ru/blog/301-y-redirekt-polnostyu-zamenil-direktivu-host

H
На сайте с 01.04.2014
Offline
571
Had
#6

Тарасов Роман, посмотрел, спасибо. Но лично мне лень на всех сайтах править роботс.тхт и мало того ещё и разбираться и делать 301 редирект или чего-то ещё там.

---------- Добавлено 14.07.2018 в 02:28 ----------

Яндекс как всегда в своём репертуаре, сначала долго и нудно ныли, что нужна эта директива, а теперь взяли и бац отказались.

ТР
На сайте с 24.09.2016
Offline
224
#7
Had:
Тарасов Роман, посмотрел, спасибо. Но лично мне лень на всех сайтах править роботс.тхт и мало того ещё и разбираться и делать 301 редирект или чего-то ещё там.

---------- Добавлено 14.07.2018 в 02:28 ----------

Яндекс как всегда в своём репертуаре, сначала долго и нудно ныли, что нужна эта директива, а теперь взяли и бац отказались.

Я тоже не правил, и не заметил ухудшения посещаемости. А на одном сайте траф Яндекса вообще в два раза вырос за последние три месяца. Значит наличие host не влияет, ну или пока не влияет.

Но, вот тут новый сайт запустили, там уже без этой директивы robots делал.

Tryd0g0lik
На сайте с 24.04.2012
Offline
99
#8
Had:
Тарасов Роман, посмотрел, спасибо. Но лично мне лень на всех сайтах править роботс.тхт и мало того ещё и разбираться и делать 301 редирект или чего-то ещё там.

Яше все равно на хост, гоша читает, майл кажется до сих пор копирует гошу

Ко мне можно на ТЫ!
J-ran
На сайте с 24.06.2012
Offline
262
#9
Tryd0g0lik:
Яше все равно на хост, гоша читает

С точностью до наоборот.

host - это директива robots.txt для Яндекса (была). Google её не воспринимает и в спецификации о ней нет ни слова.

Tryd0g0lik
На сайте с 24.04.2012
Offline
99
#10
J-ran:
С точностью до наоборот.
host - это директива robots.txt для Яндекса (была). Google её не воспринимает и в спецификации о ней нет ни слова.

Возможно. .Но в спецификации есть синтаксис а не 'операторы' допустимые в роботсе.

Синтаксис и полный перечень "операторов" это разное.

Буду признателен если просветите в вопросе: Коль хост гоше не нужен, то как гоше скармливаем основной домен сайта?

Во всем самоучка, поэтому ваше заявление интересно мне

Да и еще момент

Яше все равно на хост,

Говорил об отношении Яши на данный момент......

12

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий