Тоже считал, что на таком ресе такое не очень возможно долго - а оно вона как :( Печально.
Евгений, текущие браузеры не дают такого сделать, цикл пресекается сразу.
Боты ПС - тоже из цикла вываливаются сразу.
Как по мне, циферки подросли именно из-за нагрузки на БД, либо при исходящем трафе, парсинге (если таковой есть на сайте).
А по списку файлов на скрине ТС-а - это стандартные боты бьют по дырявым файлам, ищут что взломать. Если бы ТС умел(а) - переименовать эти файлы и всё, боты отвалятся в 404 и потом отстанут.
machoster, предыдущее алго, когда пытались с дублями бороться, сильно ударило по агрегаторам, включая новостных, включяа крутых. Сейчас была корректировка этого, потому, как, гулг получил люлей от всех крутых агрегаторов (всего).
У меня много сайтов в GN и много просто агрегаторов новостных - наблюдаю возврат процента трафа в агрегаторы и отъем этого процента у тех кто в GN. Пытаются найти баланс гугловоды, чтобы всем было хорошо :) И да, мне хорошо :)
alenka_, только крепкие сайт могут пережить такое, для молодняка, на которого мало данных еще у гугла, или при смене сайта на домене - такие прогоны его гарантированно угробят и он не взлетит уже никогда, домен можно выбрасывать.
Это штатный браузер всех аппаратов Samsung, и штатные виджеты новостей на них. Много кто не меняет на гугло-софт, я вообще года 4 пользовался по дефолту на самсунгах штатным браузером и виджетами, пока не понадобилось что-то особое из хрома.
Бумеранг777, имеешь ввиду собрать все урлы с сайта? Или только с главной, или определенной страницы?
Если с одной-нескольких, то хороший аадон (в лисе) Linkgopher.
А если все урлы сайта - то гугли сервисы: Генератор карты сайта.
Все, кто мкирофидами через консоль загонял - сейчас не работают, потому, что сама консоль не работает (сбои какие-то у гоши там).
Сейчас остался только хардкор загон через телеграм бота по рублю за урл. Но это другой принцип загона и он не поможет пройти по ссылкам, так, что там загон именно урла, а не карты со списком урлов.
gov.cn - Китайский гос орган, регистрация закрытая, только китайчатам и только гос учреждениям.
Китай-блоги - китайские блоги и гостевые, их там миллиарды и все они могут ссылаться на такие сайты гос органа без всякого прогона.
Он прав. Любое разбавление текста который в топе, на слабом сайте, даст вылет статьи из топа.
Сайт весь должен быть супер траст, и процент ключей вч в топ должен быть высок, чтобы сработал метод который предлагается в статье, а иначе гарантированный вылет из топа при любом разбавлении текста.
Скорее всего gov.cn, встречал недавно вылетевшие такие.
И это может быть и не прогонка в этой зоне, это может быть реальное кол-во кита-блогов.