запрет на индексацию для yahoo

12
esenin
На сайте с 22.01.2007
Offline
239
2522

здравствуйте

хочу запретить yahoo индексировать мой сайт. больно боты у него активные.

скажите я правильно robots.txt составил ?

User-agent: Slurp

Disallow: /

не уверен что у яху правильно паука обозвал

спасибо

Комменты на сайт по 2 рубля (http://goo.gl/F9kcZ0) (живые лайки и ретвиты) Brave браузер (https://brave.com/bra908) - браузер который платит токены BAT
[Удален]
#1

esenin, там есть штука проще, краунделай или нечто типа. Чтобы снизить скорость забора страниц.

1
На сайте с 27.08.2006
Offline
98
#2

удалить...

Шаблоны и готовые сайты на WordPress https://atiframe.ru (https://atiframe.ru) | Готовые сайты SEO/рекламного агентства
[Удален]
#3

13visflash, ага, писикер, блин (((( http://help.yahoo.com/l/us/yahoo/search/webcrawler/

Цахес
На сайте с 15.03.2007
Offline
205
#4
Miha Kuzmin (KMY):
есть штука проще, краунделай

Ага, есть такая буква.

Директива Crawl-delay, позволяюет указывать минимальный интервал между запросами робота к сайту.

User-agent: Slurp
Crawl-delay: 10
- Хорошие и плохие тексты для ваших сайтов (http://www.textsale.ru/team57397.html). - Удаленная работа. Вакансия копирайтера/рерайтера. (http://advego.ru/6myq8sgvKk) - Быстрое составление семантического ядра (https://topvisor.ru/?inv=39380).
[Удален]
#5

Цахес, тссс, низя слурп, сказали писикер - значит писикер )))

1
На сайте с 27.08.2006
Offline
98
#6
Miha Kuzmin (KMY):
низя слурп, сказали писикер - значит писикер )))

Пардон. Не туда глянул.(

esenin
На сайте с 22.01.2007
Offline
239
#7
Miha Kuzmin (KMY):
esenin, там есть штука проще, краунделай или нечто типа. Чтобы снизить скорость забора страниц.

да мне по сути яху там ни к чему :)

так что пусть вообще не суется.

K
На сайте с 12.07.2006
Offline
295
Kpd
#8
Цахес:
Директива Crawl-delay, позволяюет указывать минимальный интервал между запросами робота к сайту.

Интервал - число секунд?

Цахес
На сайте с 15.03.2007
Offline
205
#9
Kpd:
Интервал - число секунд?

Да. Crawl-delay определяет время в секундах между обращениями робота к сайту.

A
На сайте с 12.05.2004
Offline
176
#10

Crawl-delay не только яху понимает.

User-agent: *

Crawl-delay: 120

12

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий