gogo.ru как запретить индексацию?

12
sergey_
На сайте с 09.01.2007
Offline
55
2815

gogo.ru как запретить индексацию?

что-то зашел и не нашел раздела посвященного веб мастерам.... нет фака...

Черный список покупателей http://blclient.ru (http://blclient.ru) Апи для интернет магазинов http://blclient.ru/API/ (http://blclient.ru/API/) Отслеживание посылок Почты России с СМС уведомлениями (http://blclient.ru/).
Lenka
На сайте с 10.10.2003
Offline
139
#1
sergey_:
gogo.ru как запретить индексацию?

через robots.txt пробовали?

P.S. а зачем закрываться от роботов? пущай пасуться...

sergey_
На сайте с 09.01.2007
Offline
55
#2
Lenka:
через robots.txt пробовали?

P.S. а зачем закрываться от роботов? пущай пасуться...

так вот и спрашиваю как написать robots.txt

например закрыть msn:

User-agent: msnbot

Disallow: /

User-agent: *

Disallow:

а вот как закрыть gogo ? как представляются его пауки?

A
На сайте с 01.03.2007
Offline
6
#3

Видимо появление такого рода вопросов закономерно при появлении новых поисковых машин :)

_2
На сайте с 30.05.2007
Offline
171
_t2
#4

У меня есть директории на сайте, полностью закрытые для всех посковых машин.

И никто туда не лезет.

Однако, введя запрос на gogo.ru я обнаружил, в первой десятке, именно тот раздел что я закрывал для поисковых систем (PDA версия большого форума, которой в ВЕБ выдаче явно не место)!

Что делать?😕

sergey_
На сайте с 09.01.2007
Offline
55
#5

Странно что люди создающие поисковик не учли роботс тхт

S
На сайте с 22.08.2007
Offline
1
#6

User-agent: Mail.Ru

Disallow: /

rolker
На сайте с 20.08.2007
Offline
87
#7

"User-agent: Mail.Ru

Disallow: /"

мэйл.ру и гого - разные поисковики.

на мэйле сейчас выдача яндекса.

С уважением, Сергей Антонов. (http://rolker.ru)
S
На сайте с 22.08.2007
Offline
1
#8
rolker:
"User-agent: Mail.Ru
Disallow: /"

мэйл.ру и гого - разные поисковики.

на мэйле сейчас выдача яндекса.

Это так.

Но тем не менее user-agent GoGo называется Mail.Ru/1.0 и реагирует на запись User-agent: Mail.Ru в robots.txt

_2
На сайте с 30.05.2007
Offline
171
_t2
#9

Однако, на общий запрет для всех поисковиков, он что-то не очень активно реагирует...

[Удален]
#10

Закрой доступ всем поисковикам, а нужным оставь.

User-agent: *

Disallow: /

User-agent: Googlebot

Disallow:

User-agent: Mediapartners-Google

Disallow:

User-agent: Slurp

Disallow:

User-agent: msnbot

Disallow:

И т.д.

+++

Если на общий запрет не реагирует, то значит он не культурный робот - запрети его по IP или по названию в .htaccess.

12

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий