robots.txt для Яндекса

12
H
На сайте с 16.02.2009
Offline
86
#11

Так в том-то и дело, что уже проиндексировали. А я хочу вытащить их из индекса, т.к. они копи-паст. Пока нет времени делать рерайт, потом сделаю. А пока чтобы хуже не было, хочу закрыть их и вытащиь из индекса.

АвтоТун - Шины, диски, сервис (http://www.autotoon.ru)
DH
На сайте с 18.03.2009
Offline
44
#12

А если не нужно ничего закрывать, можно вообще не создавать robots.txt? В смысле ничего от этого не теряешь?

icq- 592000553
VK
На сайте с 30.01.2009
Offline
12
#13

та не нужно я думаю потому что например я прежде чем открыть эту тему столкнулся с проблемой вот такой:

прогнал сайт в 1пс и азлил на хостинг линкопомойку с 1пс links518944.php только я думал что я самый хитрый и самый умный и если типа ссылку с сайта не размещу на эту мусорку то ничего плохого мне за это не будет.

прошло полтора месяца начались проблемы с гуглосом и я ее удалил после чего все было пучком но потом вдруг выкинуло сайт из яндекса полностью и вот пишу я им письмо они ничего конкретного не отвечают только ссылок дали типа почитай. ну я почитал потом зашел на сервис для вебмастеров и смотрю там много страниц около 16 помоему ненайденных а было вообще 60. короче решил написать я robots.txt чтобы яни гоголак не индексировал и не заходил вообще на ту лажу.

ну буду ждать может че поможет

P
На сайте с 12.03.2009
Offline
18
#14

нужна ли строчка User-Agent: * если закрываеть для всех поисковиков

kimberlit
На сайте с 13.03.2007
Offline
370
#15
Poseidon:
нужна ли строчка User-Agent: * если закрываеть для всех поисковиков

Она (*) и подразумевает все ботов (которые согласны) ...

P
На сайте с 12.03.2009
Offline
18
#16

а если не писать ? то что будет??

Andermen
На сайте с 03.12.2008
Offline
34
#17
D_hunter_:
А если не нужно ничего закрывать, можно вообще не создавать robots.txt? В смысле ничего от этого не теряешь?

Нужно все равно, там есть еще команды.

Быстрая индексация сайта(за ночь) Профессиональные статьи (http://www.proftext.ru/index.php) Организация мероприятий (http://c4group.ru) - серьезным клиентам
Цахес
На сайте с 15.03.2007
Offline
205
#18
Poseidon:
а если не писать ? то что будет??

Будет считается, что доступ к сайту роботам не ограничен.

- Хорошие и плохие тексты для ваших сайтов (http://www.textsale.ru/team57397.html). - Удаленная работа. Вакансия копирайтера/рерайтера. (http://advego.ru/6myq8sgvKk) - Быстрое составление семантического ядра (https://topvisor.ru/?inv=39380).
12

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий