robots.txt — Запретить все. кроме морды

12
I
На сайте с 27.07.2007
Offline
76
2405

сабж, как правильно прописать файл?

ТОПовые коммерческие домены (/ru/forum/523219)
master_jeday
На сайте с 15.05.2010
Offline
231
#1

User-agent: *
Allow: /*/$
Disallow: /

Наверное, так:D.

Дорвеи на заказ с гарантией трафика ( /ru/forum/993918 ) >>> Осторожно, в телеге/скайпе есть клоны! Проверяйте, что общаетесь именно со мной через личку!
fivefinger
На сайте с 27.01.2011
Offline
87
#2

iventiva,

коллега master_jeday, вам правильно подсказал, но я делал так:

User-agent: *

Allow: /index.php
Disallow: /

и все работало.

EvilMinds - пока другие делают вид, мы работаем на результат. (/ru/forum/936293)
I
На сайте с 27.07.2007
Offline
76
#3

User-agent: *

Allow: /index.php

Disallow: /

Я тоже думаю так, но начал размышлять. Паук заходит видит открытую index, а потом запрет всего — уходит не индексируя вообще

master_jeday
На сайте с 15.05.2010
Offline
231
#4

fivefinger, а если морда такая: site.ru (без мусора после слэша)?

master_jeday добавил 09.02.2011 в 16:17

iventiva:
Я тоже думаю так, но начал размышлять. Паук заходит видит открытую index, а потом запрет всего — уходит не индексируя вообще

Если Allow стоит перед Disallow, то все будет хорошо:). Ежели сначала указан Disallow, потом Allow, то да - весь сайт будет запрещен к индексации.

kimberlit
На сайте с 13.03.2007
Offline
370
#5

User-agent: *

Allow: /$

Disallow: /

Только так и никак по-другому)

master_jeday, /*/$ - это разве морда? Это _site.ru/bla/

fivefinger, index.php - это хреновая морда

master_jeday
На сайте с 15.05.2010
Offline
231
#6
kimberlit:
/*/$ - это разве морда? Это _site.ru/bla/

Да, я ошибся. У Вас правильный вариант, ибо морда вот: "/".

Zorgy13
На сайте с 10.04.2010
Offline
135
#7

Хых, пока не увидел ничего похожего, вообщем это был курс каширина =))

/a

/b

...

/z

/0

/1

...

/9

Там еще

знаки разные

/$

/?

вообщем все не помню =)))

I
На сайте с 27.07.2007
Offline
76
#8

А если нужно, открывать разделы по очереди, то так:

Allow: /$

Allow: /news/

Disallow: /

следующий раздел:

Allow: /$

Allow: /news/

Allow: /state/

Disallow: /

и.т.д ?

[Удален]
#9
kimberlit:
User-agent: *
Allow: /$
Disallow: /

Только так и никак по-другому)

Самый правильный вариант!

iventiva:
А если нужно, открывать разделы по очереди, то так:
Allow: /$
Allow: /news/
Disallow: /

следующий раздел:
Allow: /$
Allow: /news/
Allow: /state/
Disallow: /

и.т.д ?

Да

nik2019
На сайте с 28.04.2009
Offline
182
#10

User-agent: *

Disallow: /

- так тоже будет работать

Многодарю
12

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий