Странно, но у меня как раз наоборот. Сайт двигался в первую очередь по главной и по ней и поднялся. Из поиска вылетели как раз нежелательные внутренние страницы, которые почему-то выскакивали вместо основной по нужным запросам в поиске (но не по всем регионам, видно апдейт вышел неполным).
А с каких IP-адресов приходит бот?
У меня, например, ходит с таких:
65.54.247.149 65.54.247.142 65.54.247.141 65.52.110.93 65.52.110.92 65.52.110.91 65.52.110.90 65.52.110.89 65.52.110.88 65.52.110.87 65.52.110.86 65.52.110.85 65.52.110.84 65.52.110.83 65.52.110.82 65.52.110.81 65.52.110.80 65.52.110.79 65.52.110.78 65.52.110.77 65.52.110.76 65.52.110.75 65.52.110.74 65.52.110.73 65.52.110.72 65.52.110.71 65.52.110.69 65.52.110.68 65.52.110.67 65.52.110.66 65.52.110.65 65.52.110.64 65.52.110.56 65.52.110.55 65.52.110.54 65.52.110.53 65.52.110.52 65.52.110.51 65.52.110.50 65.52.110.49 65.52.110.48 65.52.110.47 65.52.110.46 65.52.110.45 65.52.110.44 65.52.110.43 65.52.110.42 65.52.110.41 65.52.110.40 65.52.110.39 65.52.110.38 65.52.110.37 65.52.110.36 65.52.110.35 65.52.110.34 65.52.110.33 65.52.110.32 65.52.110.31 65.52.110.30 65.52.110.29 65.52.110.28 65.52.110.27 65.52.110.26 65.52.110.25 65.52.110.24 65.52.110.23 65.52.110.22 65.52.110.21 65.52.110.20 65.52.110.19 65.52.110.18 65.52.110.17 65.52.110.15 65.52.110.14 65.52.110.13 65.52.109.61 65.52.109.60 65.52.109.59 65.52.108.60 65.52.108.59 65.52.108.58 65.52.108.14 65.52.108.13 65.52.108.12 65.52.104.48 64.4.50.210 207.46.204.244 207.46.204.243 207.46.204.242 207.46.204.241 207.46.204.240 207.46.204.239 207.46.204.238 207.46.204.237 207.46.204.236 207.46.204.235 207.46.204.234 207.46.204.233 207.46.204.232 207.46.204.231 207.46.204.230 207.46.204.229 207.46.204.227 207.46.204.223 207.46.204.219 207.46.204.218 207.46.204.204 207.46.204.202 207.46.204.197 207.46.204.196 207.46.204.195 207.46.204.194 207.46.204.193 207.46.204.192 207.46.204.191 207.46.204.190 207.46.204.189 207.46.204.188 207.46.204.187 207.46.204.186 207.46.204.184 207.46.204.182 207.46.204.181 207.46.204.180 207.46.204.179 207.46.204.178 207.46.204.177 207.46.204.167 207.46.204.166 207.46.199.55 207.46.199.54 207.46.199.53 207.46.199.52 207.46.199.51 207.46.199.50 207.46.199.49 207.46.199.48 207.46.199.47 207.46.199.46 207.46.199.45 207.46.199.44 207.46.199.43 207.46.199.42 207.46.199.40 207.46.199.39 207.46.199.38 207.46.199.37 207.46.199.29 207.46.199.169 207.46.195.242 207.46.195.241 207.46.195.240 207.46.195.239 207.46.195.237 207.46.195.236 207.46.195.235 207.46.195.234 207.46.195.233 207.46.195.232 207.46.195.231 207.46.195.230 207.46.195.229 207.46.195.228 207.46.195.227 207.46.195.226 207.46.195.225 207.46.195.224 207.46.195.223 207.46.195.107 207.46.195.106 207.46.195.105 207.46.194.96 207.46.194.76 207.46.194.125 207.46.13.99 207.46.13.98 207.46.13.97 207.46.13.96 207.46.13.95 207.46.13.94 207.46.13.93 207.46.13.92 207.46.13.91 207.46.13.90 207.46.13.89 207.46.13.88 207.46.13.87 207.46.13.86 207.46.13.85 207.46.13.84 207.46.13.54 207.46.13.53 207.46.13.52 207.46.13.51 207.46.13.50 207.46.13.49 207.46.13.48 207.46.13.47 207.46.13.46 207.46.13.45 207.46.13.44 207.46.13.43 207.46.13.42 207.46.13.41 207.46.13.40 207.46.13.148 207.46.13.147 207.46.13.146 207.46.13.145 207.46.13.144 207.46.13.143 207.46.13.142 207.46.13.141 207.46.13.140 207.46.13.139 207.46.13.138 207.46.13.137 207.46.13.136 207.46.13.135 207.46.13.134 207.46.13.133 207.46.13.132 207.46.13.131 207.46.13.101 207.46.13.100 207.46.12.73 207.46.12.65 207.46.12.64 207.46.12.28 207.46.12.241 207.46.12.240 207.46.12.239 207.46.12.238 207.46.12.237 207.46.12.236 207.46.12.22 207.46.12.211 207.46.12.207 207.46.12.165 207.46.12.154 207.46.12.121 207.46.12.112 207.46.12.110 157.55.17.105 157.55.17.104 157.55.17.103 157.55.16.231 157.55.16.230 157.55.16.229 157.55.112.241 157.55.112.227 157.55.112.220 157.55.112.219
С моим сайтом в целом все хорошо. Год назад на сайте был обновлен движок, после этого часть ссылок автоматически стала битой и угодила в ошибку 404, в результате позиции упали. Сейчас было сделано обновление ссылочной структуры с учетом обработки через 301 редирект старых ссылок, которые остались на сайтах в сети и в базах роботов, после чего позиции пошли в стабильный рост.
В этот раз неожиданно мои сайты дали стабильный рост в самых разных тематиках. В ряде случаев удалось неожиданно "пробить" вверх позиции, уже два месяца как висевшие без изменений в выдаче. Правда упала несколько выдача по ряду регионов (и по ряду регионов, наоборот, выросла).
У меня один из сайтов недавно по достаточно высокочастотному запросу (в Яндекс и Google 10-12 тыс. запросов в месяц) вышел в Bing на первую позицию без покупки ссылок вообще. Что делалось:
1. Оптимизация контента главной страницы, хорошая плотность ключевых слов, также на внутренних страницах.
2. Соответствие верстки страниц сайта стандартам W3C.
3. Регистрация сайта в Bing WebMaster Tools.
4. Оптимизация внутренней ссылочной структуры, очистка сайта от битых URL (сайт был год назад перенесен на новый движок с частичным изменением структуры URL).
5. Размещение карты сайта в XML с наиболее важными разделами.
6. Работа с содержанием метатегов keywords и description.
При этом удалось обогнать сайты с гораздо большей ссылочной популярностью.
Предварительные выводы:
1. Для Bing важен в первую очередь контент.
2. Первоочердное значение имеет оптимизация главной страницы. Статситика показывает, что бот несколько раз в день ее загружает.
3. Bing, по всей видимости, парсит страницу не только на уровне HTML, но и рендерит ее посредством движка Internet Explorer различных версий (6-8).
4. Bing обращает большое внимание на содержимое заголовков H1-H3 (других на моем сайте и нет).
5. Не надо забывать про метатеги.
Замеченные на сайте боты бинга:
msnbot-NewsBlogs/2.0b (+http://search.msn.com/msnbot.htm) msnbot-media/1.1 (+http://search.msn.com/msnbot.htm) Mozilla/5.0 (compatible; bingbot/2.0; +http://www.bing.com/bingbot.htm) Mozilla/4.0 (compatible; MSIE 8.0; Windows NT 6.1; Win64; x64; Trident/4.0) Mozilla/4.0 (compatible; MSIE 7.0; Windows NT 5.1; SV1; .NET CLR 1.1.4325; .NET CLR 2.0.50727; .NET CLR 3.0.30729; .NET CLR 3.5.30707; InfoPath.2) Mozilla/4.0 (compatible; MSIE 6.0; Windows NT 5.1; SV1; .NET CLR 1.1.4325; .NET CLR 2.0.50727; .NET CLR 3.0.30729; .NET CLR 3.5.30707; MS-RTC LM 8)
До сегодняшнего дня наблюдал как раз обратное (хотя не раз слышал, что она должна быть как в Google).
Alex Agent добавил 07-04-2011 в 18:53
Сейчас наблюдаю интересную картину: старая выдача вернулась на место. Есть предположение, что Mail.ru на время может отключать собственный поиск и втыкать на его место выдачу Google.