Ошибка в robots.txt или бан яндекса?

Z2
На сайте с 15.01.2011
Offline
1
853

Здравствуйте, уважаемые участники форума!

Хочу задать вот какой вопрос.

Есть сайт на движке phpBB. Никаких seo-ссылок или поискового спама на форуме нет. Форум и сайт одного из районов Москвы. Яндекс нормально индексировал, добавлял страницы в поиск, и в-общем, все было в порядке.

Неделю назад, 7.01.2011 поковырял robots.txt на предмет его оптимизации. Но видимо что-то сделал не так, и в итоге к 13.01.2011 в яндекс-вебмастер в индексации страниц - 0 страниц.

Полазил в информации об исключенных страницах - загружено роботом 4100 страницы, 544 страницы исключено, причина - запрещено в robots.txt

Срочно вернул прежний вариант robots.txt. Яндекс-бот и сейчас посещает форум, но число индексированных страниц так и осталось - 0.

В то же время гугл, рамблер и yahoo ничего из поиска не удалили.

Вопроса два:

1) на что это похоже? бан в Яндексе, или из-за неправильно отредактированного robots.txt индексирование ушло в 0? Взглянул на график индексации в вебмастере - исключение страниц производилось каждый день с линейной зависимостью (кривая под 45 градусов)

2) через какое время можно ожидать возвращение в индексацию сайта в яндексе, если ошибка в robots.txt исправлена?

Сайт: http://ts.rxfly.net (не реклама, попросили указать конкретный сайт)

Заранее извиняюсь, если кому-то мой вопрос покажется смешным. Начинающий веб-мастер, поэтому многие вопросы индексации только-только осваиваю.

Спасибо. :)

Kedr777
На сайте с 06.12.2010
Offline
111
#1

Как-то пришлось запрещать в robots более полутора тысяч файлов PDF, забыл изначально прикрыть и они благополучно влезли в индекс. Так, вот на позиции это не коим образом не повлияло, а некоторые пдшки мелькают и сейчас в индексе, уж больно не охото растаётся с ними поисковик.

1. Что, именно Вы запретили в robots?

2. Сколько страниц было в поиске?

Z2
На сайте с 15.01.2011
Offline
1
#2

Думаю, что косяк в этих строчках robots.txt:

Disallow: /viewtopic.php?p=*

Disallow: /viewtopic.php?f=*&t=*&start=0$

Disallow: /viewforum.php?f=*&start=0$

Disallow: /viewtopic.php?f=*&t=*&view=next

Disallow: /viewtopic.php?f=*&t=*&view=previous

Потому что в списках исключенных страниц как раз ВСЕ темы и все форумы оказались.

Притом, что позавчера в индексации оставалось 4 страницы, сейчас - ноль.

jpg 1.jpg
Z2
На сайте с 15.01.2011
Offline
1
#3

и еще вот из вебмастера:

jpg 2.jpg
K
На сайте с 31.01.2001
Offline
737
#4

zima23, гляньте правила раздела. Частный вопрос значит не гадание на кофейной гуще, а обсуждение вопроса по конкретному сайту.

Выделенные полосы в Москве (http://www.probkovorot.info) привели к снижению скорости до 23%.
Z2
На сайте с 15.01.2011
Offline
1
#5

Kost

Если правильно Вас понял - подправил заглавный пост, добавив адрес сайта.

Kedr777
На сайте с 06.12.2010
Offline
111
#6

Для начала проверьте сайт по аддурилке, если страницы принимаются, то надежда ещё есть. Отпишитесь после проверки!

K
На сайте с 31.01.2001
Offline
737
#7

ОК, правильно поняли.

Почитайте про идентификаторы сессий. Выдавать их роботам в адресах страниц - это по меньшей мере неуважение к ним, если не сказать более резко.

Начните с этого, поковыряйте свой phpbb или настройки PHP.

Незалогиненные юзеры (в т.ч. роботы) не должны видеть никаких дурацких сессий, они при каждом заходе робота новые, это миллион дублей на каждую страницу вашего форума.

Kedr777
На сайте с 06.12.2010
Offline
111
#8
zima23:
Kost
Если правильно Вас понял - подправил заглавный пост, добавив адрес сайта.

Заголовок Теплый Стан. Сайт и форум жителей района Теплый Стан

Описание Сайт и форум жителей Теплого Стана, Теплый Стан, фотогалерея Теплого Стана, форум Теплого Стана, видео про Теплый Стан, жители Теплого Стана, новости Теплого Стана, история Теплого Стана, общение жителей Теплого Стана, спорт в Теплом Стане, торговые центры в Теплом Стане, Принц Плаза, Спектр, Мега Теплый Стан

Ключевые слова Теплый Стан, фотогалерея Теплого Стана, форум Теплого Стана, видео про Теплый Стан, жители Теплого Стана, новости Теплого Стана, история Теплого Стана, общение жителей Теплого Стана, спорт в Теплом Стане, торговые центры в Теплом Стане, Принц Плаза, Спектр, Мега Теплый Стан

Это спам, Поисковики такого не любят. Сайт добавляется в аддурилку, пока.

Z2
На сайте с 15.01.2011
Offline
1
#9

Kedr777 ок, сейчас подправлю ключевые слова и описание

Kost

я правильно понимаю, что для оптимизации идентификатора сессий нужно добавить в robots.txt эти строчки?

Clean-param: sid /index.php

Clean-param: sid /viewforum.php

Clean-param: sid /viewtopic.php

Еще раз извиняюсь за подобные вопросы, новичек в деле веб-дизайна и раскрутки.

zima23 добавил 15.01.2011 в 11:38

Keywords и description исправил на более нейтральные

Вставил в robots.txt:

Clean-param: sid /index.php

Clean-param: sid /viewforum.php

Clean-param: sid /viewtopic.php

zima23 добавил 15.01.2011 в 14:55

В итоге, что скажет уважаемая общественность по теме сабжа?

что более вероятно, исходя из предоставленной мной информации? забанили сайт или из-за неправильного robots.txt произошел такой обвал?

zima23 добавил 15.01.2011 в 21:01

Только что заходил в яндекс-вебмастер. Произошел апдейт (минус 2 дня от реального) - в индексации появилась одна ссылка :)

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий