наглый паук Яндекса - как его спровадить

123
[Удален]
#11

вообще Crawl-delay

#kletka#
На сайте с 15.04.2004
Offline
170
#12
Fi9hter:
Директива Crawl-delay для этого есть.
Yandex:
Напишите в нем запрет для робота Яндекса на обращение к скриптам, которые сильно загружают сервер или ...

Помимо краулера... Они же сами написали:)

Продаю фото со всех фотобанков по 1$ по Расширенной лицензии. Skype: kletka79
L
На сайте с 21.10.2009
Offline
7
#13

Был у меня давным давно один такой форумчик, так я просто сделал так что просматривать его могут только зарегистрировнные пользователи

sb1982
На сайте с 28.03.2007
Offline
278
#14
Fi9hter:
Если форум на другом домене, то да. А если форум вида site.ru/forum ? То если запрещать все кроме основного сайта, то уже клоакинг как бы выходит...

причём тут вообще клоакинг? клоакинг это кода в индекс одно, а юзеру другое.

Собираю поисковый трафик
Jaf4
На сайте с 03.08.2009
Offline
804
#15

Вам уже два человека советовали. :)

Добавьте строчку в роботс.тхт:

Crawl-delay: 5

Бот будет делать паузу при переходах по сайту. Мне помогло внести все странички в индекс и разгрузить хостера.

А вообще наверное это такой сигнал - намек менять хостера, который дохнет от поискового бота в гостях.

New! NVMe VPS от SmartApe.ru (https://goo.gl/eoYYkS)
M
На сайте с 25.03.2009
Offline
44
#16

любители пофлудить и посоветовать перечитайте вот этот пост ТСа /ru/forum/comment/6141776

или скажите где вообще ТС писал про нагрузку на хостинг или, что трафика жалко ему...

/ru/forum/comment/1592771 () =)
E
На сайте с 13.01.2010
Offline
4
#17

забaнь Яндекс

Купи себе index.ru

Fi9hter
На сайте с 05.08.2008
Offline
205
#18
sb1982:
причём тут вообще клоакинг? клоакинг это кода в индекс одно, а юзеру другое.

А когда часть страниц сайта юзерам дается, а поисковику не дается это что? :)

M
На сайте с 25.03.2009
Offline
44
#19
Fi9hter:
А когда часть страниц сайта юзерам дается, а поисковику не дается это что? :)

ну я клоакинг понимаю по другому, как у вики написано... а это всё же разные вещи, когда страница не даётся вообще или даётся с разным содержимым...

ну и яша вот так пишет:

Избегайте ситуаций, когда поисковый робот индексирует одно содержание страницы, а пользователь при обращении к этой странице получает другое.
87793
На сайте с 12.09.2009
Offline
661
#20
Roman77:
я от него закрываю только форум, там для него много чего криминального

А что именно Вы считаете "криминальным" для Яндекса на своём Форуме?

Наше дело правое - не мешать левому!
123

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий