Почему Яше не нравится мой robots.txt???

12
AC
На сайте с 18.02.2012
Offline
12
924

Добрый день товарищи.Только что зашел в панель "Яндекс Вебмастер" решил проверить robots.txt на наличие ошибок и вот что обнаружил Яша:

Строка Сообщение

1: User-agent: *

Обнаружена неизвестная директива

2: Disallow: /cgi-bin

Перед правилом нет директивы User-agent

Вот собственно сам robots:

User-agent: *

Disallow: /cgi-bin

Disallow: /wp-login.php

Disallow: /wp-register.php

Disallow: /wp-cron.php

Disallow: /wp-admin/

Disallow: /wp-includes/

Disallow: /wp-content/plugins

Disallow: /wp-content/cache

Disallow: /wp-content/themes

Disallow: /webstat/

Disallow: /feed/

Disallow: /tag/

Disallow: /search/

Disallow: /goto/

Disallow: *.html/*

Disallow: */sphinx/*

Disallow: */*.js*

Disallow: /daos/

Disallow: */?p*

Disallow: */?s*

Host: САЙТ

Sitemap: САЙТ.sitemap.xml

До этого был такой:

User-agent: Yandex

Disallow: /cgi-bin

Disallow: /wp-admin

Disallow: /wp-includes

Disallow: /wp-content/plugins

Disallow: /wp-content/cache

Disallow: /wp-content/themes

Disallow: /wp-trackback

Disallow: /wp-feed

Disallow: /wp-comments

Disallow: */trackback

Disallow: */feed

Disallow: */comments

Disallow: /2012

Disallow: /tag

Disallow: /category/

Host: САЙТ

User-agent: *

Disallow: /cgi-bin

Disallow: /wp-admin

Disallow: /wp-includes

Disallow: /wp-content/plugins

Disallow: /wp-content/cache

Disallow: /wp-content/themes

Disallow: /wp-trackback

Disallow: /wp-feed

Disallow: /wp-comments

Disallow: */trackback

Disallow: */feed

Disallow: */comments

Disallow: /2012

Disallow: */tag

Disallow: */category/

Та же проблема... что не так не пойму.Помогите)

Здоров'я та медицина. Здоровий спосіб життя (http://beregisebia.ru/) Свежие новости шоу бизнеса (http://sposn.com/)
Z
На сайте с 13.12.2009
Offline
452
#1

у меня такая хрень была, когда был косяк с кодировкой роботса

Консультации, seo-аудиты - https://seo-consulting.su Профессионально и без воды
AC
На сайте с 18.02.2012
Offline
12
#2
zusull:
у меня такая хрень была, когда был косяк с кодировкой роботса

И как Вы решили проблему?

anndielm
На сайте с 02.05.2012
Offline
126
#3

AngelCaido, качаешь на комп, удаляешь с хостинга, локально перекодировываешь с помощью того же notepad+ и заливаешь обратно =)

все будет работать

iren K
На сайте с 28.12.2008
Offline
222
#4
AngelCaido:
И как Вы решили проблему?

заметка для тех кто не знает - файл должен быть записан в формате ОС вашего сервера:

дело в том, что в Windows и DOS перевод строки обозначается двумя спец-символами - "\r\n" (0x0D 0x0A или 13 10), а в UNIX одним - "\n" (0x0A или 10).

Поэтому если на сервере стоит UNIX, то файл, написанный под Windows, работать не будет.

Поэтому его необходимо одно из следующего:

a) открыть в 16-ричном редакторе и запустить замену 0x0D на 0x20 (пробел в 16-ричном варианте).

b) Обработать файл данной функцией (php5):

<?php file_put_contents($filename, strtr(file_get_contents($filename, array("\r\n" => "\n")))); ?>

c) Создавать файл непосредственно на сервере с помощью php-скрипта.

d) Использовать ASCII-режим передачи данных в вашем ftp-клиенте.

e) Настроить ваш php-редактор так, чтоб он сохранял файлы в UNIX-формате

🍿

c уважением Iren
AC
На сайте с 18.02.2012
Offline
12
#5
anndielm:
AngelCaido, качаешь на комп, удаляешь с хостинга, локально перекодировываешь с помощью того же notepad+ и заливаешь обратно =)
все будет работать

С хоста снес робтс,открыл notepad+ и в нем сделал новый и сохранил с разрешением txt и залил снвоа на хост. Проверил в Панели и все без изменений(

---------- Добавлено 14.08.2012 в 14:04 ----------

iren K:
заметка для тех кто не знает - файл должен быть записан в формате ОС вашего сервера:
дело в том, что в Windows и DOS перевод строки обозначается двумя спец-символами - "\r\n" (0x0D 0x0A или 13 10), а в UNIX одним - "\n" (0x0A или 10).
Поэтому если на сервере стоит UNIX, то файл, написанный под Windows, работать не будет.
Поэтому его необходимо одно из следующего:
a) открыть в 16-ричном редакторе и запустить замену 0x0D на 0x20 (пробел в 16-ричном варианте).
b) Обработать файл данной функцией (php5):

<?php file_put_contents($filename, strtr(file_get_contents($filename, array("\r\n" => "\n")))); ?>

c) Создавать файл непосредственно на сервере с помощью php-скрипта.
d) Использовать ASCII-режим передачи данных в вашем ftp-клиенте.
e) Настроить ваш php-редактор так, чтоб он сохранял файлы в UNIX-формате

🍿

Спасибо за совет,но это как-то сложно... Не думал что robots.txt потребует таких жертв(

P
На сайте с 14.06.2012
Offline
22
#6

скиньте мне в лс свой файл.

Надежные и быстрые VDS для сайта. Всего от 149 рублей. (http://goo.gl/pQcDi)
iren K
На сайте с 28.12.2008
Offline
222
#7
AngelCaido:
Не думал что robots.txt потребует таких жертв(

просто попробуйте поменять режим загрузки по ftp (transfer mode): поставьте text, напр. если еще нет

siv1987
На сайте с 02.04.2009
Offline
427
#8
AngelCaido:
Проверил в Панели и все без изменений(

Проверяйте в анализаторе, и загружаете с хоста.

Файл на хостинге как закачиваете?

Зы

проверил директивы скопированы из старт поста, никаких ошибок нету.

AC
На сайте с 18.02.2012
Offline
12
#9
siv1987:
Проверяйте в анализаторе, и загружаете с хоста.
Файл на хостинге как закачиваете?

Зы
проверил директивы скопированы из старт поста, никаких ошибок нету.

Захожу на хост черет ftp и кидаю роботс на хостинг,потом захожу в Яндекс вебмастер,далее жму: настройка индексирования,далее анализ роботс,загрузить с хоста и жму проверить в результате єти ошибке,что изложены выше)

P
На сайте с 14.06.2012
Offline
22
#10

отправил в лс файл, пробуйте.

12

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий