Запрет к индексации

123 4
wolf
На сайте с 13.03.2001
Offline
1183
#11
Pavel2005:
Мне необходимо все .php фалй запретить, а также страницы для печати.

А не проще ли те страницы, которые надо запретить, сложить в одну папку и запретить ее?

Сергей Людкевич, независимый консультант, SEO-аудиты и консультации - повышаю экспертность SEO-команд и специалистов ( http://www.ludkiewicz.ru/p/blog-page_2.html ) SEO-блог - делюсь пониманием некоторых моментов поискового продвижения ( http://www.ludkiewicz.ru/ )
P2
На сайте с 16.09.2005
Offline
183
#12
VEgor:
1. Перехватываете запрашиваемый Url
2. Смотрите кто запросил страницу (поисковая машина или человек)
3. Парсите имя страницы / контент страницы на предмет закрытия индексации яндексом или другими поисковиками.
4. Если поисковая машина - то выдаете пустую страницу или страницу с тегом ноиндекс, если человек - то показываете страницу.
В итоге:
1. Работает без отказов.
2. Можно закрыть индексацию как ко всем поисковикам (даже к тем, которые игнорируют роботс.тхт), так и поотдельности, например только яндексу.
Все.

Для этого видимо скрипт необходим? Если да, то как его встроить в форум?

Прошу прощения, если вопросы неккоректные - опыта по этому вопросу не было :)

P2
На сайте с 16.09.2005
Offline
183
#13
wolf:
А непроще ли те страницы, которые надо запретить, сложить в одну папку и запретить ее?

Это же форум :) - у него своя структура + пути. Боюсь, что это невозможно

V
На сайте с 26.08.2005
Offline
4
#14

1. Перехват страницы. Способов разных несколько, наверное самый простой и доступный мод реврайт. Пишите правило пересылки запроса например на страницу close_robots.php в соответствии со структурой каталогов форума.

2. Делаете php скрипт (или на любом другом языке), например такой:

<?

$page = $_SERVER['REQUEST_URI'];

if(strpos($page,".php") and strpos($_SERVER['HTTP_USER_AGENT'],"andex"))

{

echo "Извини, ты Яндекс, страничку я тебе не покажу.";

} else

{

include("$page");

}

?>

wolf
На сайте с 13.03.2001
Offline
1183
#15

"Клоакинг по юзер-агенту" называется. Можно доиграться до того, что весь сайт в бане окажется.

V
На сайте с 26.08.2005
Offline
4
#16

2wolf

В данном случаи это не соответствует действительности.

Если бы мы яндексу выдавали вместо этого страницу со словами "Секс, Раздаем деньги и другие популярные поисковые запросы), то да - бан получили бы. А если жы мы выдаем пустую страницу, или же если яндекс заходит и мы подсовываем ему страницу с вставленным тегом ноиндекс - то ничего нам не грозит.

В моем примере выше написан механизм. Павел, я думаю это понял.

P2
На сайте с 16.09.2005
Offline
183
#17
VEgor:
1. Перехват страницы. Способов разных несколько, наверное самый простой и доступный мод реврайт. Пишите правило пересылки запроса например на страницу close_robots.php в соответствии со структурой каталогов форума.
2. Делаете php скрипт (или на любом другом языке), например такой:
<?
$page = $_SERVER['REQUEST_URI'];
if(strpos($page,".php") and strpos($_SERVER['HTTP_USER_AGENT'],"andex"))
{
echo "Извини, ты Яндекс, страничку я тебе не покажу.";
} else
{
include("$page");
}
?>

Спасибо за совет Егор :)

Едиственное - куда я буду этот код размещать? Форум, про который я говорю - имеет далеко не один php файл - во все размещать?

wolf
На сайте с 13.03.2001
Offline
1183
#18
VEgor:
Если бы мы яндексу выдавали вместо этого страницу со словами "Секс, Раздаем деньги и другие популярные поисковые запросы), то да - бан получили бы. А если жы мы выдаем пустую страницу, или же если яндекс заходит и мы подсовываем ему страницу с вставленным тегом ноиндекс - то ничего нам не грозит.

Ну на фига тогда совать пустую страницу с откликом 200? Отдать 404 - и все будет по честному.

А насчет "не соответсвует действительности" - это можно будет потом в переписке с модератором Яндекса эту тему развить. Квалифицированный стук может творить чудеса. ;)

V
На сайте с 26.08.2005
Offline
4
#19

Павел, нет конечно.

Вы немножко не поняли как это работает.

Сначала идет перехват запрашиваемого URL страницы и передается на файл с этим кодом (пункт 1), который и определяет кто пришел и выводит или не выводит страницу.

2) По мимо того, если генерится статика, то как вариант - добавить несколько строк кода в этот механизм, если создаете файл php то автомат вставлять в него тэг ноиндекс.

Вариантов можно придумать множество.

V
На сайте с 26.08.2005
Offline
4
#20

2 wolf

можно и 404 страницу, все, что угодно.

Я описал лиш программный механизм, а что выдавать если способ понравится, автор темы думаю решит сам.

Подобные механизмы у меня стоят на двух сайтах, один из которых работает уже 4ре года, проблем с поисковиками у меня небыло + ко всему этот сайт по популярному запросу на первом месте в яндексе.

123 4

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий