Интересный роботст.тхт

M
На сайте с 16.06.2009
Offline
106
451

Посмотрел на роботст.тхт одного из Топовых ресурсов рунета в своей категории:

User-Agent: *
Disallow: /

User-agent: Googlebot
Allow: /

User-agent: Yandex
Allow: /

User-agent: Mediapartners-Google
Allow: /

User-agent: YaDirectBot
Allow: /

По сути, они запретили нагружать их сервер ботами, кроме Яндекса и Гугла. Насколько такая схема лучше?

Buzzy-Wuzzy
На сайте с 07.07.2010
Offline
66
#1

michaelk, лучше чем что?

Ink-developer
На сайте с 31.01.2009
Offline
138
#2

Лучше примерно на 39 или на 56, как повезет :)

L
На сайте с 07.12.2007
Offline
351
#3

Этот robots интереснее, а судя по этому - народ не заморачивается.

VoV@
На сайте с 22.09.2007
Offline
196
#4

Есть ещё такой вариант

⭐ Разработка Андроид-приложений (Xamarin C#). ⭐ Разработка ASP.NET (WebForms, MVC, WebAPI, Core). ⭐ Цой жив!

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий