К чему приводит несоблюдение Яндексом robots.txt

12 3
wolf
На сайте с 13.03.2001
Offline
1183
1963

Вот любопытный запросец:

http://www.yandex.ru/yandsearch?text=%23url%3D%22www.google.com.ru/search*%22&serverurl=www.google.com.ru&pag=d

Выходит, что Яндекс проиндексировал более 500 документов с результатами поиска русской версии Гугля. Естественно папка /search в Гугле (в т.ч. и в русской версии) давно закрыта для индексации файлом robots.txt

Вопрос, как результаты поиска Гугля попали в Яндекс? Скорее всего, виноват робот "D", обслуживающий форму ручного добавления и несоблюдающий robots.txt. Кто-то, видимо, этим пользуется и вручную скармливает Яндексу результаты поиска Гугля

Сергей Людкевич, независимый консультант, SEO-аудиты и консультации - повышаю экспертность SEO-команд и специалистов ( http://www.ludkiewicz.ru/p/blog-page_2.html ) SEO-блог - делюсь пониманием некоторых моментов поискового продвижения ( http://www.ludkiewicz.ru/ )
M
На сайте с 12.01.2003
Offline
130
#1

это не яндекс, и не русское, но...

вот http://groups.yahoo.com/robots.txt

а вот бекворды спрошенные тулбаром http://www.google.com/search?sourceid=navclient&ie=UTF-8&oe=UTF-8&q=link:http%3A%2F%2Fwww%2Ebrutalextreme%2Ecom%2F

как так?

wolf
На сайте с 13.03.2001
Offline
1183
#2
http://groups.yahoo.com/robots.txt

Смотрим:

User-agent: *

Disallow:

Это значит, что все разрешено для индексации. Вот если бы было:

User-agent: *

Disallow: /

то тогда было бы все запрещено.

Криминала нет.

M
На сайте с 12.01.2003
Offline
130
#3

видимо мне надо больше спать. Я был уверен что слеш там стоит :o

L
На сайте с 06.06.2003
Offline
50
#4
Кто-то, видимо, этим пользуется и вручную скармливает Яндексу результаты поиска Гугля

Сергей, а для чего это нужно кому-то?

По нормальному запросу они не выдут, на прочие переменные не повлияют, имхо...

С уважением, Луцкий.
[Удален]
#5
Как писал Lutsky


Сергей, а для чего это нужно кому-то?
По нормальному запросу они не выдут, на прочие переменные не повлияют, имхо...

Экспериментирует кто-то, наверное... :)

funnybunny
На сайте с 14.09.2002
Offline
357
#6

Я регулярно вижу неожиданные для меня ссылающиеся страницы кторые являются результатом поиска, допустим вот так:

Поиск Результаты поиска фразы: buy, buy, buy, buy, buy

Результаты поиска фразы: buy

http://www.search.topcatalog.ru/sl/www_buy.htm - 84К - 19.08.2003 - строгое соответствие

видимо некто практикует, что это дает, не понятно (пожимая плечами)

L
На сайте с 06.06.2003
Offline
50
#7

новый вид спама поисковика... :), засор базы.

Могли бы обрезать по основным поисковикам.

[Удален]
#8
По нормальному запросу они не выдут, на прочие переменные не повлияют, имхо...

Может хотят чтобы ссылка в тИЦ зачлась. Хотя не зачтется из-за порога, но почему б не попробовать. :)

Sir[MAI]
На сайте с 22.10.2002
Offline
147
#9

Interitus,

Хотя не зачтется из-за порога

что за порог?! 😕 😮

С уважением, Сергей
L
На сайте с 06.06.2003
Offline
50
#10
но почему б не попробовать.

Видимо ты и пробовал ;), вот мы и нашли этого "кто-то" :)

12 3

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий