Цитировать Я - все мастера.
А вот растолку-ка нам, плиз, что будет, если поставить:
Crawl-delay: 0
di_max добавил 15.12.2009 в 11:30
10 в секунду? Ну это было бы явным нарушением Crawl-delay: 0.1
9 шт в секунду - самое оно.;)
Но суть-то не в этом...
Это смотря у кого...
У меня - 10, а у Яндекса - 9.;)
А что?
аккуратно - это когда ссылки горизонтальные или вертикальные?
хм... Или я опять мысль спрятал, но домен (сайт) там один:
Crawl-delay: 0.1
Хорошо что классики этого не знали.;)
А. Хейли, к примеру, а ушь Л. Толстой...😂
Кто тут логов хотел?
Вот чем занимается "Yandex/1.01.001 (compatible; Win16; I)"?
Это лог с одного сервера
и продолжение:
А чем этот красавец занимается на том же сервере?
Резюме:
Иногда работает, а в основном балду гоняет.;)
PS
25 ноября Гугля, редиска, вдул в 00:38:15 - 1004 запроса.
Сервер выдержал.
Гугля подумал и... решал обидитцо. Вдул в 01:27:28 - 2444 запроса.
Сервер хрипел, сипел...
С натуги сплевывал и
Желтый клык высовывал
(R)емейк
PSS-2
Я это к чему... А то скажут опять, что 6 мысля не видна из даля.
Информация о том сколько доменов на одном IP - информация открытая.
Есть комунальные квартиры и колхозы.
Есть коттед... выделенные сервера, где на 1 IP приходится 1 домен.
Которые способны выдержать хорошу нагрузку.
Почему бы не "прокачивать" по-быстренькому роботу такие и потом заниматься колхозами, свободив ресурсы и расширив паралельные потоки...
Понимаю, что колхозы душить нельзя (несушки сдохнут)
Но и держать в серпе по 2 недели 404 страницы - тож не дело.
А кто виноват, что обновление контента составляет 30-50% в месяц.
(З)аметка на полях.
Именно так: не соблюдается корректным образом.
Да бы не возникало двойственности, уточню, что НЕ КОРРЕКТНОСТЬ может быть как в сторону уменьшения времени между запросами, так и в сторону увеличения.;)
В своем посте я и отметил, что робот вернулся к таймингами обращений к серверу, которые были ДО введения этой директивы, без учета указанный в ней значений.
di_max добавил 14.12.2009 в 13:10
В ГС замечен не был...;)
В бетон и на дно Гудзона?
Эт чего шь такого натворила?🙄
Bronza, видимо вас устроит только буровая вышка, что торчит на Елисейских полях... :)
Классический перенедоАп: - Апнули больше чем могли, но меньше чем хотели.
(Пятницо)
