Проверьте Robots.txt

12
[Удален]
1340

Кому не трудно посмотрите правильно ли все написал

http://wwe.su/robots.txt

Старался просто сделать его под mediawiki , чтобы спец.страницы не индексировал...а то вдруг я чего и другое закрыл.

Кому не трудно уделите пару минут :o

kimberlit
На сайте с 13.03.2007
Offline
370
#1

Ошибка в самом низу. Не разрывайте User-agent и Disallow пустой строкой!

Секция должна идти слитно.

PS Считаю, что такой навороченный роботс не нужен ...

Pancake
На сайте с 26.09.2006
Offline
40
#2

Delgado, kimberlit прав. Да и User-Agent пишется с заглавных.

Ты еще не в курсе? Статьи рулят! (http://seozavr.ru/index.php?id=53) Убедись сам!
dspu
На сайте с 10.05.2006
Offline
268
#3
User-agent: Yandex
Host: wwe.su

пустой disallow нужен между ними

и так же есть мнение, что каждый бот читает только свой раздел, если находит, т.е. раздел

User-agent: *

яша не примет во внимание

Цахес
На сайте с 15.03.2007
Offline
205
#4

Если нечего запрещать для Яндекса, добавьте пустую строку Disallow:

- Хорошие и плохие тексты для ваших сайтов (http://www.textsale.ru/team57397.html). - Удаленная работа. Вакансия копирайтера/рерайтера. (http://advego.ru/6myq8sgvKk) - Быстрое составление семантического ядра (https://topvisor.ru/?inv=39380).
rypy
На сайте с 06.02.2007
Offline
33
#5
Delgado:
Кому не трудно посмотрите правильно ли все написал
http://wwe.su/robots.txt

Старался просто сделать его под mediawiki , чтобы спец.страницы не индексировал...а то вдруг я чего и другое закрыл.
Кому не трудно уделите пару минут :o

Касаемо Яндекса, посмотрите здесь.

/robots.txt глазами Яндекса

Зарабатывай на биржах: Sape (http://www.sape.ru/r.2ab646a8f2.php) и Miralinks (http://miralinks.ru/users/registration/from:4923). Автоматизируй продвижение - Seopult (http://seopult.ru/ref.php?ref=0915826a962409ce). SEO в картинках (http://seopics.ru)
[Удален]
#6

Ок. Буду разбираться.

Если нечего запрещать для Яндекса, добавьте пустую строку Disallow:

Для яндекса нужно запретить тоже самое что и для гугла.

dspu
На сайте с 10.05.2006
Offline
268
#7
Delgado:

Для яндекса нужно запретить тоже самое что и для гугла.

надо продублировать все disallow какие надо в разделах яши и гугля и вообще всех, которые описаны отдельно от *

[Удален]
#8

Вроде все исправил. в Яндексе и гугле нужное спрятал , для остальных не очень важно.

kimberlit
На сайте с 13.03.2007
Offline
370
#9
Delgado:
в Яндексе и гугле нужное спрятал

А где секция Гугла то ???

[Удален]
#10

.. Добавил.

User-Agent: Googlebot

Так ведь его писать ?

12

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий