Особенности национальной РоботоТехники

12
HoSStiA
На сайте с 18.02.2004
Offline
144
#11
vlav:
Помойка находится на другом домене. Разве может 1-links.soft.1-info.ru как то влиять на club.1-info.ru? Тогда все домены провайдеров, которые предлагают сайты на поддоменах своего домена должны быть давно забанены? Или я не прав?

С хостингами и региональными доменами у Яндекса особые отношения.

Остальных же рассматривают как единый сайт, и санкции, обычно, накладываются на основной домен и его поддомены разом.

vlav:
С какого может быть этот бан вообще - там нет ни одного малейшего нарушения их правил?

Поинтересуйтесь у Платонов. Вообще-то, после полного выпадения из индекса 1-info.ru, отрицать возможность бана и сидеть сложа руки несколько нелогично. ;)

vlav:
Кстати - про помойки. У меня есть наипомоечнейшая помойка, которую я специально развел

Эх, заранее "соболезную", если сюда сегодня вечером заглянет товарищ BigBrother. :)

vlav
На сайте с 07.09.2004
Offline
57
#12

Не поделитесь опытом - по каким адресам до них (Платонов) больше шансов достучаться?

С уважением
HoSStiA
На сайте с 18.02.2004
Offline
144
#13

Надежнее всего - через форму обратной связи:

http://feedback.yandex.ru/?from=webmaster

На заявки, посланные по обычной Е-почте, они почему-то значительно хуже отвечают.

Mishael
На сайте с 08.11.2001
Offline
217
#14

Странная тема вообще то. Думаю должно быть понятно что иконки для сайта, роботс, и прочие нечасто меняющиеся вещи Яшка может пересчитывать и перечитывать нечасто. Учет тоже естественно не мгновенно происходит. Если бы с момента правки и индексации роботса прошла неделя а робот все еще бегал - это было бы поводом для беспокойства, а немгновенный учет - что же тут удивительного? Очередь уже сформирована :). Другое дело совпадение ожидания и прихода, тоже не сильно удевительно. Солнце всходит как раз утром, когда этого сильно ждешь :):) По поводу же нелюбви к форумам - есть такое. Боты в профайлах, будь они неладны... :(

Мой надежный веломагазин (https://veliki.com.ua/) на CMS Melbis Shop 6 (http://www.melbis.com/)
wolf
На сайте с 13.03.2001
Offline
1183
#15
Mishael:
Если бы с момента правки и индексации роботса прошла неделя а робот все еще бегал - это было бы поводом для беспокойства

Я не понял, неделя - это срок, прописанный в стандарте файла robots.txt на его принятие к исполнению роботами? Что-то я там такого не встречал :)

Сергей Людкевич, независимый консультант, SEO-аудиты и консультации - повышаю экспертность SEO-команд и специалистов ( http://www.ludkiewicz.ru/p/blog-page_2.html ) SEO-блог - делюсь пониманием некоторых моментов поискового продвижения ( http://www.ludkiewicz.ru/ )
BigBrother
На сайте с 16.06.2006
Offline
96
#16
wolf:
Но ведь всё равно как-то невежливо забирать запрещенные текущей версией роботса документы, не правда ли? И неужели "уже сформированная очередь" может быть достаточным оправданием невежливости робота?
Яндекс, баня айпишники за автоматическое обращение к своей выдаче, ведь как-то не допускает, что очередь семонитора "уже была сформирована". 😂
Двойные стандарты, однако... ;) Ну, да дело не столько в этом. Дело в том, что индексирующий робот Яндекса оказывается в ряде случаев невежливым роботом. Что, согласитесь, как-то некошерно... В лидере рынка поиска должно быть всё прекрасно... :)

Согласен, не всегда хорошо получается, работаем над этим...

Жаль, сейчас не могу конкретный случай посмотреть - хотя и понимаю, почему скорее всего именно так произошло.

So many kings, but few jokers!
HoSStiA
На сайте с 18.02.2004
Offline
144
#17
Mishael:
Странная тема вообще то.

Да это wolf'a какие-то черти не в ту степь "качать права" понесли. :D

Mishael:
Если бы с момента правки и индексации роботса прошла неделя а робот все еще бегал - это было бы поводом для беспокойства, а немгновенный учет - что же тут удивительного?

Форумы Яндекс полюбит не скоро, но индексировать их тоже как-то надо. Есть несколько "трюков", которые позволяют сдвинуть процесс с мертвой точки, но и они не всегда срабатывают. Можно ждать месяцами, можно заваливать Платонов письмами - но это долго, и не всегда принесет удовлетворительный результат.

Первопричина проблемы - не недостатки ПС Яндекс, а современные форумные движки как класс. Одно только море внутренних ссылок с 301-м редиректом (!) спугнет любого здравомыслящего Паука. Но, если ткнуть робота носом 10000 раз в страницы с уникальным контентом (в разрезе форума - это отдельные посты), через некоторое время Паук перестает бояться, и дальше роется по форуму уже без "подсказок".

К сожалению, в частных случаях задача преодоления группы фильтров, препятствующих начальной индексации форума, превращается в нетривиальную.

"Выпавший" кусок очереди на индексацию непосредственно после запрета индексации, а также успешно продолжающаяся индексация форума на новом месте дают основания считать, что локализованная часть очереди попадала в "песочницу". Яндекс всегда знал о существовании страниц, но просто _не_хотел_ их индексировать.

По логам видно, что robots.txt был прочитан с хоста с IP отличным от IP основного робота-индексатора. Так как Яндекс - это распределенная вычислительная сеть, сложилась ситуация, когда фильтры были сброшены раньше, чем "вычищена" очередь по изменениям в robots.

HoSStiA
На сайте с 18.02.2004
Offline
144
#18
BigBrother:
Жаль, сейчас не могу конкретный случай посмотреть - хотя и понимаю, почему скорее всего именно так произошло.

Мне тоже почти понятны - свою точку зрения высказал в предыдущем посте.

Пару слов в защиту Яндекса и "хозяйства" BigBrother: WebAlta, в тот же день, разогналась настолько (увидев новый домен), что почти _сутки_ не проверяла изменений в robots.txt =)

Mishael
На сайте с 08.11.2001
Offline
217
#19
wolf:
Я не понял, неделя - это срок, прописанный в стандарте файла robots.txt на его принятие к исполнению роботами? Что-то я там такого не встречал :)

Неделя? нет конечно. Так. Время моего терпения :):)

12

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий