Вот чем занимается "Yandex/1.01.001 (compatible; Win16; I)"?
Это лог с одного сервера
77.88.xxx.yyy 0 [01:26:45] GET
77.88.xxx.yyy 0 [01:26:45] GET
77.88.xxx.yyy 0 [01:26:45] GET
77.88.xxx.yyy 0 [01:26:45] GET
77.88.xxx.yyy 0 [01:26:45] GET
77.88.xxx.yyy 0 [01:26:45] GET
77.88.xxx.yyy 0 [01:26:45] GET
77.88.xxx.yyy 0 [01:26:45] GET
77.88.xxx.yyy 0 [01:26:45] GET
77.88.xxx.yyy 0 [01:26:46] GET
77.88.xxx.yyy 0 [01:26:46] GET
77.88.xxx.yyy 0 [01:26:46] GET
77.88.xxx.yyy 0 [01:26:46] GET
77.88.xxx.yyy 0 [01:26:46] GET
77.88.xxx.yyy 0 [01:26:46] GET
и продолжение:
77.88.xxx.yyy 0 [01:44:50] GET
77.88.xxx.yyy 0 [01:44:50] GET
77.88.xxx.yyy 0 [01:44:51] GET
77.88.xxx.yyy 0 [01:44:51] GET
77.88.xxx.yyy 0 [01:44:52] GET
77.88.xxx.yyy 0 [01:44:53] GET
77.88.xxx.yyy 0 [01:44:53] GET
77.88.xxx.yyy 0 [01:44:54] GET
77.88.xxx.yyy 0 [01:44:54] GET
77.88.xxx.yyy 0 [01:44:55] GET
77.88.xxx.yyy 0 [01:44:55] GET
77.88.xxx.yyy 0 [01:44:56] GET
77.88.xxx.yyy 0 [01:44:56] GET
77.88.xxx.yyy 0 [01:44:57] GET
77.88.xxx.yyy 0 [01:44:57] GET
77.88.xxx.yyy 0 [01:44:58] GET
77.88.xxx.yyy 0 [01:44:58] GET
77.88.xxx.yyy 0 [01:44:59] GET
77.88.xxx.yyy 0 [01:44:59] GET
77.88.xxx.yyy 0 [01:45:00] GET
77.88.xxx.yyy 0 [01:45:00] GET
77.88.xxx.yyy 0 [01:45:01] GET
77.88.xxx.yyy 0 [01:45:01] GET
77.88.xxx.yyy 0 [01:45:02] GET
77.88.xxx.yyy 0 [01:45:02] GET
77.88.xxx.yyy 0 [01:45:03] GET
77.88.xxx.yyy 0 [01:45:03] GET
77.88.xxx.yyy 0 [01:45:04] GET
77.88.xxx.yyy 0 [01:45:04] GET
А чем этот красавец занимается на том же сервере?
213.180.xxx.yyy 0 [05:52:27] GET
213.180.xxx.yyy 0 [05:52:36] GET
213.180.xxx.yyy 0 [05:52:38] GET
213.180.xxx.yyy 0 [05:53:14] GET
213.180.xxx.yyy 0 [05:53:23] GET
213.180.xxx.yyy 0 [05:53:28] GET
213.180.xxx.yyy 0 [05:53:37] GET
213.180.xxx.yyy 0 [05:53:49] GET
213.180.xxx.yyy 0 [05:54:09] GET
213.180.xxx.yyy 0 [05:54:12] GET
213.180.xxx.yyy 0 [05:54:29] GET
Резюме:
Иногда работает, а в основном балду гоняет.;)
PS
25 ноября Гугля, редиска, вдул в 00:38:15 - 1004 запроса.
Gray: Вы хотите сказать, что есть конкретные страницы, при индексировании которых роботом Яндекса не соблюдается корректным образом прописанная директива Crawl-delay, и готовы назвать эти страницы?
Именно так: не соблюдается корректным образом.
Да бы не возникало двойственности, уточню, что НЕ КОРРЕКТНОСТЬ может быть как в сторону уменьшения времени между запросами, так и в сторону увеличения.;)
В своем посте я и отметил, что робот вернулся к таймингами обращений к серверу, которые были ДО введения этой директивы, без учета указанный в ней значений.
di_max добавил 14.12.2009 в 13:10
anser06: Наверно, бывают сверхценные СДЛ, которые бот хочет переиндексировать как можно скоре ;)
ТС, вы по ходу даже свой топик не читаете
Цитировать Я - все мастера.
А вот растолку-ка нам, плиз, что будет, если поставить:
Crawl-delay: 0
di_max добавил 15.12.2009 в 11:30
Где по вашим логам Яндекс делает более 10 запросов в секунду?
10 в секунду? Ну это было бы явным нарушением Crawl-delay: 0.1
9 шт в секунду - самое оно.;)
Но суть-то не в этом...
Сколько в секунде таких 0.1? :)
Это смотря у кого...
У меня - 10, а у Яндекса - 9.;)
А что?
а с какой стати зафильтруют, если ссылки аккуратно проставлены?
аккуратно - это когда ссылки горизонтальные или вертикальные?
di_max, а можно роботсы от всех этих сайтов в студию?
хм... Или я опять мысль спрятал, но домен (сайт) там один:
Crawl-delay: 0.1
Оптимальная величина абзаца для моих глаз - не более 5 строк, главки - примерно 1000-1500 знаков.
Хорошо что классики этого не знали.;)
А. Хейли, к примеру, а ушь Л. Толстой...😂
Кто тут логов хотел?
Вот чем занимается "Yandex/1.01.001 (compatible; Win16; I)"?
Это лог с одного сервера
77.88.xxx.yyy 0 [01:26:45] GET
77.88.xxx.yyy 0 [01:26:45] GET
77.88.xxx.yyy 0 [01:26:45] GET
77.88.xxx.yyy 0 [01:26:45] GET
77.88.xxx.yyy 0 [01:26:45] GET
77.88.xxx.yyy 0 [01:26:45] GET
77.88.xxx.yyy 0 [01:26:45] GET
77.88.xxx.yyy 0 [01:26:45] GET
77.88.xxx.yyy 0 [01:26:45] GET
77.88.xxx.yyy 0 [01:26:46] GET
77.88.xxx.yyy 0 [01:26:46] GET
77.88.xxx.yyy 0 [01:26:46] GET
77.88.xxx.yyy 0 [01:26:46] GET
77.88.xxx.yyy 0 [01:26:46] GET
77.88.xxx.yyy 0 [01:26:46] GET
и продолжение:
77.88.xxx.yyy 0 [01:44:50] GET
77.88.xxx.yyy 0 [01:44:50] GET
77.88.xxx.yyy 0 [01:44:51] GET
77.88.xxx.yyy 0 [01:44:51] GET
77.88.xxx.yyy 0 [01:44:52] GET
77.88.xxx.yyy 0 [01:44:53] GET
77.88.xxx.yyy 0 [01:44:53] GET
77.88.xxx.yyy 0 [01:44:54] GET
77.88.xxx.yyy 0 [01:44:54] GET
77.88.xxx.yyy 0 [01:44:55] GET
77.88.xxx.yyy 0 [01:44:55] GET
77.88.xxx.yyy 0 [01:44:56] GET
77.88.xxx.yyy 0 [01:44:56] GET
77.88.xxx.yyy 0 [01:44:57] GET
77.88.xxx.yyy 0 [01:44:57] GET
77.88.xxx.yyy 0 [01:44:58] GET
77.88.xxx.yyy 0 [01:44:58] GET
77.88.xxx.yyy 0 [01:44:59] GET
77.88.xxx.yyy 0 [01:44:59] GET
77.88.xxx.yyy 0 [01:45:00] GET
77.88.xxx.yyy 0 [01:45:00] GET
77.88.xxx.yyy 0 [01:45:01] GET
77.88.xxx.yyy 0 [01:45:01] GET
77.88.xxx.yyy 0 [01:45:02] GET
77.88.xxx.yyy 0 [01:45:02] GET
77.88.xxx.yyy 0 [01:45:03] GET
77.88.xxx.yyy 0 [01:45:03] GET
77.88.xxx.yyy 0 [01:45:04] GET
77.88.xxx.yyy 0 [01:45:04] GET
А чем этот красавец занимается на том же сервере?
213.180.xxx.yyy 0 [05:52:27] GET
213.180.xxx.yyy 0 [05:52:36] GET
213.180.xxx.yyy 0 [05:52:38] GET
213.180.xxx.yyy 0 [05:53:14] GET
213.180.xxx.yyy 0 [05:53:23] GET
213.180.xxx.yyy 0 [05:53:28] GET
213.180.xxx.yyy 0 [05:53:37] GET
213.180.xxx.yyy 0 [05:53:49] GET
213.180.xxx.yyy 0 [05:54:09] GET
213.180.xxx.yyy 0 [05:54:12] GET
213.180.xxx.yyy 0 [05:54:29] GET
Резюме:
Иногда работает, а в основном балду гоняет.;)
PS
25 ноября Гугля, редиска, вдул в 00:38:15 - 1004 запроса.
Сервер выдержал.
Гугля подумал и... решал обидитцо. Вдул в 01:27:28 - 2444 запроса.
Сервер хрипел, сипел...
С натуги сплевывал и
Желтый клык высовывал
(R)емейк
PSS-2
Я это к чему... А то скажут опять, что 6 мысля не видна из даля.
Информация о том сколько доменов на одном IP - информация открытая.
Есть комунальные квартиры и колхозы.
Есть коттед... выделенные сервера, где на 1 IP приходится 1 домен.
Которые способны выдержать хорошу нагрузку.
Почему бы не "прокачивать" по-быстренькому роботу такие и потом заниматься колхозами, свободив ресурсы и расширив паралельные потоки...
Понимаю, что колхозы душить нельзя (несушки сдохнут)
Но и держать в серпе по 2 недели 404 страницы - тож не дело.
А кто виноват, что обновление контента составляет 30-50% в месяц.
(З)аметка на полях.
Вы хотите сказать, что есть конкретные страницы, при индексировании которых роботом Яндекса не соблюдается корректным образом прописанная директива Crawl-delay, и готовы назвать эти страницы?
Именно так: не соблюдается корректным образом.
Да бы не возникало двойственности, уточню, что НЕ КОРРЕКТНОСТЬ может быть как в сторону уменьшения времени между запросами, так и в сторону увеличения.;)
В своем посте я и отметил, что робот вернулся к таймингами обращений к серверу, которые были ДО введения этой директивы, без учета указанный в ней значений.
di_max добавил 14.12.2009 в 13:10
Наверно, бывают сверхценные СДЛ, которые бот хочет переиндексировать как можно скоре ;)
В ГС замечен не был...;)
Расслабьтесь, это за мной прилетели.
В бетон и на дно Гудзона?
Эт чего шь такого натворила?🙄
Bronza, видимо вас устроит только буровая вышка, что торчит на Елисейских полях... :)
А может, переап? 😂
Классический перенедоАп: - Апнули больше чем могли, но меньше чем хотели.
(Пятницо)