Как запретить индексацию всех страниц кроме главной в robots.txt?

I1
На сайте с 16.08.2008
Offline
79
13299

Как запретить яндексу индексацию всех страниц, кроме главной?

Как прописать директивы в robots.txt?

M
На сайте с 04.03.2009
Offline
21
#1
disallow: /
allow: /index.php

как мне кажется

как мало пройдено дорог, как много сделано дорвеев... а у меня с Яндексом Платоническая любовь! mall (c)
I1
На сайте с 16.08.2008
Offline
79
#2

в таком случае site.ru будет индексироваться?

мне нужно чтобы индексировалось только site.ru

[Удален]
#3
mall:
как мне кажется

Главная это не index, а /

Как мне видится можно перечислить все страницы сайта в disallow:, а можно написать disallow: /noind/ и все страницы убрать в соответствующую папку.

Но вообще это извращение. Можно сделать ссылки на все остальные страницы через флэш или закрыть в ноиндекс.

Цахес
На сайте с 15.03.2007
Offline
205
#4
iwan111:
Как запретить яндексу индексацию всех страниц, кроме главной?

Запретите вот так :

User-agent: Yandex

Allow: /$

Disallow: /

mall:
disallow: /
allow: /index.php

Такая конструкция запрещает скачивать весь сайт!

- Хорошие и плохие тексты для ваших сайтов (http://www.textsale.ru/team57397.html). - Удаленная работа. Вакансия копирайтера/рерайтера. (http://advego.ru/6myq8sgvKk) - Быстрое составление семантического ядра (https://topvisor.ru/?inv=39380).
M
На сайте с 04.03.2009
Offline
21
#5
disallow: /
allow: /index.php
Такая конструкция запрещает скачивать весь сайт!

тогда allow: index.php ?

H
На сайте с 03.08.2005
Offline
188
#6

Цахес написал самую лаконичную конструкцию, вопрос на этом можно закрывать

Услуги: программирование (/ru/forum/991783), а также дизайн и верстка (/ru/forum/996863) Продам koloda.ru $6000
nihilanth
На сайте с 17.11.2005
Offline
44
#7

Перечислить в Disallow все символы, с которых могут начинаться адреса страниц:

User-Agent: *

Disallow: /1

...

Disallow: /z

Не очень лаконично, но должно работать во всех поисковиках, а не только в Яндексе и Google.

LoaderRu
На сайте с 26.07.2006
Offline
78
#8

Как вариант:

используйте sitemap.xml - укажите в ней только главную.

В раздел head для главной такую конструкцию:

<meta content="INDEX, NOFOLLOW" name="Robots" />

А на каждую страницу поставьте мета тег:

<meta content="NOINDEX, NOFOLLOW" name="Robots" />

И тогда в роботс.txt пишите

User-Agent: *

Disallow:

Sitemap: http://site.com/sitemap.xml

Но по идее его вообще можно не использовать в таком случае.

Мыслей много - и ни одной верной
farlow
На сайте с 07.05.2008
Offline
102
#9

сайтмап всего лишь помогает в списке существуещих страниц, но никак не ограничивает

Ищу дизайнера, вебмастера

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий