откуда в базе яндекса берутся аностранные сайты?

12
I
На сайте с 15.12.2000
Offline
80
#11

Мы начали индексировать те сайты, который раньше находились только по ссылкам, но были закрыты от полнотекстового индексирования.

Илья

Sergey Petrenko
На сайте с 23.10.2000
Offline
482
#12

iseg

были закрыты от полнотекстового индексирования.

Т.е. те, которые робот не хотел индексировать? Или сейчас он не обращает внимания на robots.txt?

Второй вопрос - зачем это делается? После индексации этих сайтов вы пойдете по ссылкам на другие, потом дальше... Цель - конкуренция с Google?

M
На сайте с 25.01.2001
Offline
57
#13

Речь идет прежде всего о зарубежных доменах. По ссылкам там Яндекс ходить не будет, т.к. трафик дорогой ;(

I
На сайте с 15.12.2000
Offline
80
#14

Gray:
Т.е. те, которые робот не хотел индексировать? Или сейчас он не обращает внимания на robots.txt?

robots.txt тут ни причем. Фильтром закрыто все кроме "Рунета". Мы же не гугль какой, у нас же не 10 тысяч компьютеров, а всего 40.

Тем не менее в поиск по ссылкам мы включали все, не глядя на фильтр, а так как странички были не проиндексированы, это вызывало законное раздражение пользователей. Теперь мы эти странички обходим (в один слой, дальше не раскручиваем)

Илья

12

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий