stik.name

stik.name
Рейтинг
80
Регистрация
21.03.2010
Должность
Вебмастер, Программист, Дизайнер... (HTML, JS, CSS, PHP, MYSQL)
Интересы
IT Tech, Coding, Development, Design, Web-Design

В общем-то подобный вопрос...

В ближайшие дни будет один проект переделываться.. на сайте будет порядка 200000 редиректов со старых на новые страницы.. Что скажете про такое глобальное изменение и отношение ПС?

Баблофикатор:
Возможно где то внешние или внутренние ссылки такие стоят на ваш сайт, либо движок выдает такое боту, вот и пытается робот вытянуть эти страницы.

Движок самописный и я знаю как он работает так же как и так сказать - "свои пять пальцев".

aship:
Это директива сортировки содержимого каталога для апача, которую выдает wget и другие подобные программы.

wget всегда выдает такую директиву, поэтому я озвучил наиболее вероятную версию.

Зачем роботу Яндекса пытаться листать каталог, который закрыт индексным файлом - спросите у Платона.

Остаётся только гадать...

Баблофикатор:
Да, это яндекс.
Только эта, юзер-агент легко подделывается (когда воровал контент в бытность совсем молодым именно так и поступал), если что, и по нему ничего нельзя однозначно определить, а лишь предположить.

Ну тут вы америку не открыли =) юзер-агент более чем легко подделывается.

Так всё же, мы не выяснили, чего яндекс пытается добиться такими запросами к главной.

paran03d:
Врятли это яндекс, скорей проверка на уязвимости, яндекс бота вы определили только по рефералу?
aship:
Это кто-то ворует контент с вашего сайта wget'ом.
Настройте сервер так, чтобы он отдавал 404 или 403 ошибку по таким параметрам запроса.
Баблофикатор:
ip адрес этих яндекс-ботов фиксируется? Если да то по хуизу можно выяснить яндекс ли это на самом деле.

Боты определяются по юзерагенту и айпи. Это Яндекс, ни кто не ворует контент.

Айпи: 93.158.149.31

Спасибо всем, я еще конечно не определился с выбором, но пищи для размышления получил сполна.

Предложения вариантов.

web2master:
Фигня какая-то, проверяю индексацию сегодня, смотрю куча доменов в агс залетело, так мало этого ещё и плюсы по страничкам обнаружил. Вчера проверял этого не было. Вот скриншот...

Неужели Яндекс так долго эхо предыдущего апдейта устраивает
или это что-то другое?

Странно... у меня всё на месте с 9 числа.

Не знаю что у вас там не работает в .htaccess

Вот рабочий пример, у меня на цмс работает без каких либо проблем и зацикливаний.

RewriteCond %{THE_REQUEST} ^[A-Z]{3,9}\ /index\.php\ HTTP/ 
RewriteRule ^index\.php$ http://stik.name/ [R=301,L]

Переделайте под свой сайт, замените домен и php на html

Минимальное изменение страниц, позиции на месте.

vpupkin97:
Странно. У меня выдаёт только HTML карту (хотя есть как HTML так и XML). У вас в выдаче я вижу, XML. По моему, что-то не то.
Может, стоит посмотреть в сторону content-type?

Я сравнивал заголовки отдаваемые сервером и делал так как на других сайтах, правда content-type иногда отличался, но я выбрал тот что чаще всего используется.

content-type application/xml

content-type text/xml

Я выбрал первый.

Всего: 171