robots.txt

12
A
На сайте с 18.01.2014
Offline
1
825

Привет,как мне поставить на запрет индексацию конкретных страниц моего сайта?не папок а именно страниц,либо можно запретить всё но нужные мне разрешить.что прописывать в robot.txt?

MA
На сайте с 08.05.2013
Offline
5
#1

artuch,

РАЗ

ДВА

G-and-Y
На сайте с 29.06.2013
Offline
185
#2

давайте примеры страниц какие надо какие нет.

Абузо-устойчивые впс ( http://vps-hosting.lv/?p=13408 )
firstPR
На сайте с 24.02.2013
Offline
15
#3

User-agent: *

Dissalow: /имя_страницы.php

Dissalow: /имя_папки/имя_страницы.php

armyofdarkness
На сайте с 14.01.2013
Offline
8
#4

Гугл все равно проиндексирует он игнорирует robot.txt

Помогите ламеру
maximka77
На сайте с 15.10.2011
Offline
245
#5

artuch, вот здесь еще почитайте /ru/forum/828288

- Базы чатов и каналов Телеграм ( https://base-top.ru/ ) - Недорогие ссылки с форумов (https://cutt.ly/swQDFZWx)
IL
На сайте с 20.04.2007
Offline
435
#6
artuch:
.что прописывать в robot.txt?
armyofdarkness:
Гугл все равно проиндексирует он игнорирует robot.txt

Гугл не игнорирует robots.txt, но страницы, запрещённые к индексации может выводить с пометкой "запрещён в robots.txt"

В этом случае для полного удаления можно использовать мета тэг (или аналогичный header), к примеру такой:

<meta name="robots" content="noindex, nofollow"/>
... :) Облачные серверы от RegRu - промокод 3F85-3D10-806D-7224 ( http://levik.info/regru )
siv1987
На сайте с 02.04.2009
Offline
427
#7
armyofdarkness:
Гугл все равно проиндексирует он игнорирует robot.txt

robot.txt он игнорирует... А по поводу роботс'а - читайте документацию прежде чем делать такие громкие заявления.

A
На сайте с 18.01.2014
Offline
1
#8

Я незнаю в каких мне папках искать название страниц,везде пишут про запрет индексации папок на сервере,но нельзя ли сделать проще?прописать http,например вот так?

Disallow: http://www.example/1page

Disallow: http://www.example/2page

Disallow: http://www.example/3page

siv1987
На сайте с 02.04.2009
Offline
427
#9

Ну так пишите так, только без htt://www.example.ru, и в итоге получится так Disallow: /page1 Что здесь сложного?

A
На сайте с 18.01.2014
Offline
1
#10
siv1987:
Ну так пишите так, только без htt://www.example.ru, и в итоге получится так Disallow: /page1 Что здесь сложного?

Спасибо.ну как раз это мне и надо было уточнить как сделать правильно.А еще такой вопрос можно ли наоборот некоторые страницы разрешить а всё остальное запретить?например так

User-agent: *

Disallow: /

Allow: /page1

Allow: /page2

12

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий