закрыть сайт от всех ПС, кроме трех

Dolph
На сайте с 08.04.2008
Offline
215
365

Собственно подскажите, как верно закрыть через robots.txt

http://www.robotstxt.org/ читал, поставленную задачу решил, но решение не красиво.

На форуме есть множество Людей, кто так делает. Подскажите, как покрасивше роботс написать что бы запретить всех, за исключением Гугла, Яши и Рамблера?

RuCaptcha.com ( http://www.RuCaptcha.com ) отечественный капча-сервис 20-44 руб за 1000 решений ($0,61 максимум!) на простые капчи ReCaptcha V2/V3/Invis, FunCaptcha, HCaptcha, GeeTest, Capy, KeyCaptcha
Цахес
На сайте с 15.03.2007
Offline
205
#1
Dolph:
поставленную задачу решил, но решение не красиво.

Вам шашечки или ехать?

User-agent: Googlebot
Disallow:

User-agent: Yandex
Disallow:

User-agent: StackRambler
Disallow:

User-agent: *
Disallow: /
- Хорошие и плохие тексты для ваших сайтов (http://www.textsale.ru/team57397.html). - Удаленная работа. Вакансия копирайтера/рерайтера. (http://advego.ru/6myq8sgvKk) - Быстрое составление семантического ядра (https://topvisor.ru/?inv=39380).
Алексей Барыкин
На сайте с 04.02.2008
Offline
272
#2
Цахес:
Вам шашечки или ехать?

Ну и для красоты прописать яндексботу Host.

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий