Закрыть часть кода от поисковиков через .htaccess

LX
На сайте с 28.10.2013
Offline
2
L-X
801

Добрый день!

Подключаю внешний сервис в виде установки js кода на сайт. Проблема в том, что в идеале его нужно поставить на все страницы. Закрыть от индексации обычным способом не получается.

Пришла в голову такая мысль - а что, если сделать <?php include('js_kod.php'); ?>

Далее, добавляем этот js не в "саму страницу", а в файлик js_kod.php

И запрещаем его следующим образом:

--------------------------------------------------------

SetEnvIfNoCase User-Agent "^Yandex" search_bot

SetEnvIfNoCase User-Agent "^Yahoo" search_bot

SetEnvIfNoCase User-Agent "^Googlebot" search_bot

SetEnvIfNoCase User-Agent "^Aport" search_bot

SetEnvIfNoCase User-Agent "^msnbot" search_bot

SetEnvIfNoCase User-Agent "^spider" search_bot

SetEnvIfNoCase User-Agent "^Robot" search_bot

SetEnvIfNoCase User-Agent "^php" search_bot

SetEnvIfNoCase User-Agent "^Mail" search_bot

SetEnvIfNoCase User-Agent "^bot" search_bot

SetEnvIfNoCase User-Agent "^igdeSpyder" search_bot

SetEnvIfNoCase User-Agent "^Snapbot" search_bot

SetEnvIfNoCase User-Agent "^WordPress" search_bot

SetEnvIfNoCase User-Agent "^BlogPulseLive" search_bot

SetEnvIfNoCase User-Agent "^Parser" search_bot

<FilesMatch "^.*js_kod\.php$">

Order Allow,Deny

Allow from all

Deny from env=search_bot

</FilesMatch>

--------------------------------------------------------

Как думаете, сработает?

И еще вопрос, не обидятся ли поисковики?

IL
На сайте с 20.04.2007
Offline
435
#1
L-X:
Проблема в том, что в идеале его нужно поставить на все страницы. Закрыть от индексации обычным способом не получается.
L-X:
Далее, добавляем этот js не в "саму страницу", а в файлик js_kod.php

Так в итоге что? Будет оно на всех страницах, или только на одной?

... :) Облачные серверы от RegRu - промокод 3F85-3D10-806D-7224 ( http://levik.info/regru )
md5by
На сайте с 30.12.2011
Offline
68
#2

Странный немного способ, надо тестировать ... а чем тебя не устраивает просто подключить JS код в виде JS файла?

LX
На сайте с 28.10.2013
Offline
2
L-X
#3

Кстати, да! Насчет подключить js отдельным файлом - хороший совет. Спасибо!

А вот с точки зрения правильности и работоспособности кода .htaccess у меня серьезные опасения. Увы.

---------- Добавлено 19.11.2013 в 11:56 ----------

ivan-lev:
Так в итоге что? Будет оно на всех страницах, или только на одной?

Нужно на всех.

На одной я и так уже закрыл через robots и продублировал в заголовке:

<meta name="robots" content="noindex"/>

<meta name="robots" content="nofollow"/>

И все ссылки на эту страницу сделал следующего вида:

<a href="url" rel="nofollow">текст ссылки</a>

Можно было к тому же эти ссылки в <!--noindex--> <!--/noindex--> спрятать от Яндекса, но думаю, это уже излишество. К тому же надеюсь найти более приемлемое решение.

LX
На сайте с 28.10.2013
Offline
2
L-X
#4

Код работает. Проверено. Остался последний вопрос. Какие исключения прописать и как, чтобы вместе с роботами не отсечь все браузеры от Яндекс, Mail.ru и подобные...

Поиск молчит, Википедия тоже... http://ru.wikipedia.org/wiki/User_Agent

Как они представляются то вообще?

siv1987
На сайте с 02.04.2009
Offline
427
#5

Yandex user agent, Google user agent и так далее

mail browser user agent, chrome user agent и тоже так далее

Смотрим. Сравниваем. Пишем.

SeVlad
На сайте с 03.11.2008
Offline
1609
#6
L-X:
Как думаете, сработает?

Нет.

Ну т.е. сам файл "js_kod.php" не проиндексится, но ту же его инклудишь в страницу, которая уже будет индексится.

L-X:
чтобы вместе с роботами не отсечь все браузеры от Яндекс, Mail.ru и подобные...

Надеяться на ЮА роботов может стать очень дорого. Они ходят и "обычными юзерама", а за клоаку можно отгрести по полной.

Вообще тему "закрыть часть контента от ПС" неоднократно обсасывали. Особенно (помниться) бурундук с богоносцем показывали решения. Стоит поискать в этом и сеошных разделах.

Делаю хорошие сайты хорошим людям. Предпочтение коммерческим направлениям. Связь со мной через http://wp.me/P3YHjQ-3.
LX
На сайте с 28.10.2013
Offline
2
L-X
#7

Работает так, как предложил md5by - при вынесении кода в отдельный js файл и закрытии именно этого файла. C инклюдом .php - глупо, согласен.

Ходят "обычными юзерами" - это как? Имеется ввиду - счетчиками на всяческих барах? Или сам поисковый робот маскируется?

---------- Добавлено 19.11.2013 в 21:57 ----------

P.S. Ищу тему, спасибо за наводку.

SeVlad
На сайте с 03.11.2008
Offline
1609
#8
L-X:
Ходят "обычными юзерами" - это как? Имеется ввиду - счетчиками на всяческих барах? Или сам поисковый робот маскируется?

Ну последнее - это точно. Что им стоит подставить ЮА

Mozilla/5.0 (Windows NT 6.1; rv:13.0) Gecko/20100101 Firefox/13.0.1

вместо

Mozilla/5.0 (compatible; YandexBot/3.0; +http://yandex.com/bots)
LX
На сайте с 28.10.2013
Offline
2
L-X
#9

В итоге решил не рисковать - с одной стороны, действительно, метод закрытия через htaccess не стоит применять против поисковых систем, разве что против различных парсеров, чтобы не перегружали проект.

С другой - поисковые системы растут не по дням, а по часам, и методы, которые работают сейчас, могут запросто дать сбой уже завтра и все попадет в индекс со всеми последствиями.

Остановился на варианте одной "специально обученной" и закрытой наглухо от индексирования странице. Лучше уж медленнее, но верно, чем быстро, но в бан.

SeVlad, спасибо за предостережение.

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий