Ах, так вот как этот м***кий бот проиндексировал у меня на одном сайте облако тегов, которое подгружалось через AJAX (причем внутри <aside>), и выкинул в поиск левую страницу по целой куче важных запросов!
Зачем, зачем? Чтобы, например, потихоньку отбивали хотя бы стоимость продления домена. У меня есть сайт, выработавший свой жизненный цикл актуальности, с посещалкой 5-10 человек в сутки, чисто для размещения ссылок, так с него капает десяток-другой центов в месяц.
Недопустимый трафик: AdSense для контента - 0,11$.
Это при том, что я проводил исследования рекламодателей на предмет стоимости клика (за что можно вообще-то бан схлопотать, а не только снятие денег за траффик).
Вот еще такая сегодня зараза вылезла в лидеры показов. Редиректид на ya.ru.
Я такое блочу по домену только когда вижу, что одно и то же фуфло (не объявление, а сам сайт) лезет в лидеры показов. Например:
drabuh.ru
elomaruni.pl
ezomuner.pl
А нет, все-таки рано радоваться. Яша на одном сайте проиндексировал контент внутри aside и вытащил зачем-то внутряк по целой куче запросов (на более низких позициях, естественно), опираясь на содержимое виджета. Итого пришлось поработать над семантикой HTML в шаблоне и засунуть сам виджет в noindex.
Проверил только что сейчас сам - таки да, они теперь такими трюками пользуются. Пока только для стояков, по видео и пенсиям такого не видел. Мне только интересно зачем они дают такую рекламу? Ведь это ни разу не целевой траффик - почти как в анекдоте: "На заборе х***й написано. Марь Ивановна его разобрала - а там доски..."
Набрался терпения, спустя сутки снял позиции. Ну такой, спокойный АП. В основном все немного подросло, без чудес (только на одном сайте скакнуло). Странички только как-то медленно в индекс входят, на одном сайте - только 10% от ожидаемого. Из неприятного - одностраничник выкинул один по почти всем подзапросам, это при том что в Google он в первой 10-ке по большинстку из них.
Микроформат hRecipe вам в помощь. Его даже Яндекс понимает.
https://yandex.ru/support/webmaster/hrecipe/general.xml
Спасибо за совет! Что-то не додумался раньше, что надо текстовый фильтр использовать. Итого полностью зачистил:
1. Стояки.
2. "Вас отметили в видео" и аналогичный мусор.
3. "С 15 ноября пенсии не будет".