Про js я ничего не писал (читает - не равно выполняет)... А css, думаю, он все же смотрит. Иначе как бороться с тэгом H1=10px? Думаете все вручную модерится?
Индексируется... правда, кое-что упорно не хочет:(
Хтмлки задвинул, а скриптовые страницы берет на ура!
Он все читает, инструкции ssi на сервере тоже выполняются.
Это накопление PR. Потом хозяин домена ставит на морде ЖИРНУЮ ссылку на свой "нормальный" сайт.
Подобно браузеру, в соответствии со спецификацией RFC 2396.
Это кто-то глумится. Точнее гонит к себе "целевых" посетителей. Некоторые из которых... останутся на картинках.
А почему, собственно неохота?
А я вроде про индексацию ничего и не говорил🙄
Но правильное решение;)
Вот и первая ласточка. Некоторые просто сносят каталоги после бана и т.д.
А тут просто хвост упал... И ничего вроде такого. База могла полететь или еще чего... Ессно, десятки вэб-мастеров подтвердят, что я менялся, а он - редиска все удалил.
Так что тут нуно стратегию оч. хорошо продумать.
Робот сразу все НЕ берет. Запомни это. Если, конечно, сайт целиком не состоит из 5 страниц. А вот когда за остальными придет...
Наверно у робота есть лимит по количеству вновь найденных страниц на каком-либо сайте.