После изменения robots.txt выкинул из индекса

12
J
На сайте с 08.06.2006
Offline
844
1720

Есть молодой сайт.

Тематика - "Ответы на вопросы о Виндовсе".

Каждая заметка на сайте ответ на популярный вопрос о виндовсе на 500-700 знаков без пробелов уникального авторского текста.

В первый же ап Яндекс захавал морду, начал шерстить по внутрякам, но кроме морды в индексе другие страницы не были.

На третий ап и морда с индекса вылетела.

Ссылок не закупал. Кроме добавления новых заметок вообще ничего не делалось с сайтом.

Где то после второго апа (морда еще была в индексе) был сменен robots на

User-agent: *
Disallow:
Disallow: /category/osajte
Disallow: /osajte.html
Disallow: /login
Disallow: /register
Disallow: /cgi-bin

И уже после третего апа и морда выветела с индекса.

На четвертый ап в индекс ничего не попало.

Выпала иза смены роботса или может какие другие причины?

Спасибо!

п/с раньше такого никогда не было с другими сайтами.

ГG
На сайте с 09.10.2007
Offline
97
#1
joost:

User-agent: *
Disallow:<----------------------------------- 🤪
Disallow: /category/osajte
Disallow: /osajte.html
Disallow: /login
Disallow: /register
Disallow: /cgi-bin

Это жесть, вы запретили индексировать сайт!

fivefinger
На сайте с 27.01.2011
Offline
87
#2
Гарри Gudini:
Это жесть, вы запретили индексировать сайт!

А вы точно уверены, что

Disallow:
запрещает индексацию сайта?🍿
EvilMinds - пока другие делают вид, мы работаем на результат. (/ru/forum/936293)
a.chibisov
На сайте с 11.11.2010
Offline
42
#3

Да, проблема не в этом... пустой диссалоу не запрещает ничего!

я занимаюсь этим, потому что только учусь... как научусь - найду новое занятие...
[Удален]
#4
fivefinger:
Это жесть, вы запретили индексировать сайт!
fivefinger:
запрещает индексацию сайта?

Disallow: 

Ничего не запрещает. Запрещает индексацию

Disallow: /

javadf добавил 08.11.2011 в 12:01

И для проверки robots.txt есть http://webmaster.yandex.ru/robots.xml, там можно посмотреть запрещена страница или нет.

Утка-робот
На сайте с 08.07.2008
Offline
222
#5

Не должно, вам бы в суп.

J
На сайте с 08.06.2006
Offline
844
#6

просто

User-agent: *

Disallow:

ничего не запрещает

в чем же проблема выпадения даже морды?

п/с уже не говоря о индексации внутряков

joost добавил 08.11.2011 в 13:33

тулс яндекса http://webmaster.yandex.ru/robots.xml

говорит, что osajte.html тоже разрешено

разве Disallow: /osajte.html не запрещает?

J
На сайте с 08.06.2006
Offline
844
#7
Koslen:
ну так попробуйте уберите этот дисалоу пустой

убрал уже вчера

simba77
На сайте с 03.02.2009
Offline
36
#8

Изменения в robots.txt нормальные. Тут просто обычный глюк в алгоритме при условии конечно, что сайт не откровенный ГС.

Мой 2-х летний тоже выпал весь полностью. Я помимо robots.txt ещё и поменял структуру урлов практически на всех страницах. Обновил движёк, так сказать, удачно)). Все старые урлы корректно перенаправляются 301 на новые. В корректности уверен. Просто глюк.

Написал роботу-платону , чего и Вам советую. Шансы минимальные, но...

docadept
На сайте с 15.03.2010
Offline
124
#9
Гарри Gudini:
Это жесть, вы запретили индексировать сайт!

Да Вы знаток, батенька))

docadept добавил 09.11.2011 в 09:40

По теме - историю домена смотрели? Вполне может оказаться, что он уже зафильтрован был еще до того, как Вы его зарегистрировали.

ГG
На сайте с 09.10.2007
Offline
97
#10
docadept:
Да Вы знаток, батенька))

Ага, поторопился, не заметил что сплеша нет :o

12

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий