Проиндексировано, несмотря на блокировку в файле robots.txt

123
G6
На сайте с 12.07.2007
Offline
193
#11
rodjers #:
Да  ?prefix_id=6&order=title
function yw_noindex_follow() {

$url = $_SERVER['REQUEST_URI'];

    if (strpos($url,'?prefix_id=6&order=title ') !== false) {

        echo '<meta name="robots" content="noindex, follow" />' . "\n";

    }

}

add_action( 'wp_head', 'yw_noindex_follow', 1);

В функции вашей темы добавьте и будет отдавать на этих страницах. Можно вообще все GET убить. (для wp)

add_action( 'wp_head', function() {
    if (isset($_GET) && $_GET) {
        echo '<meta name="robots" content="noindex, follow" />' . "\n";
    }
}, 1);

Можно 404 отдать и не парится.

RewriteEngine on
RewriteCond %{QUERY_STRING} ^prefix_id$
RewriteRule ^(.*)$ - [R=404,L]

Все проверяйте, подправьте...

Работа с ПФ дёшево, плюс тест https://vk.cc/cReVya | Каталог каналов/чатов, ботов MAX https://max.worldwebinfo.ru
R
На сайте с 15.11.2013
Offline
97
#12
garry69 #:

В функции вашей темы добавьте и будет отдавать на этих страницах. Можно вообще все GET убить. (для wp)

Можно 404 отдать и не парится.

Все проверяйте, подправьте...

С кодом на 404 ни чего не меняется. В редиректе убрал кусок кода

RewriteCond %{REQUEST_FILENAME} !-f

RewriteCond %{REQUEST_FILENAME} !-d

RewriteRule . /index.php [L]

Оставил

# Редиректы с index.php или index.html на сайт

RewriteCond %{THE_REQUEST} ^[A-Z]{3,9}\ /index\.(php|html)\ HTTP/

RewriteRule .* / [R=301,L]

На те адреса выпадает Not Found

Но обнаружил новую проблему не пускает в регистрацию, залил дефолтный htaccess всё равно при переходе в регистрацию выдаёт ошибку.

R
На сайте с 15.11.2013
Offline
97
#13
Vladimir #:

На не существующие страницы, должно отдаваться 404
Тогда не надо будет писать такие топики

Стоит сейчас 404, сколько примерно ждать пока гугл поймёт что их нет? И что это за параметры

?order=view_count 

?prefix_id=6&order=title

Сейчас на все эти ссылки стоит 404. А существующие страницы с этими параметрами должны отдавать 404 или нет? Просто сейчас смотрю если приставить например параметр  ?order=view_count с главной то так и остаёшься на ней с этим параметром, а с полной перекидывает уже без него. Или тут уже можно забить?

W1
На сайте с 22.01.2021
Offline
306
#14
rodjers #:

В редиректе убрал кусок кода

RewriteCond %{REQUEST_FILENAME} !-f
RewriteCond %{REQUEST_FILENAME} !-d
RewriteRule . /index.php [L]

Вообще-то не нужно делать того, чего не понимаете. Этот кусок вставляется не просто так, а с целью обработки определённых адресов. Убирая его, Вы можете сломать логику работы CMS, а к решению Вашей проблемы этот код не имеет никакого отношения.

Мой форум - https://webinfo.guru –Там я всегда на связи
W1
На сайте с 22.01.2021
Offline
306
#15
rodjers #:
А существующие страницы с этими параметрами должны отдавать 404 или нет?

Естественно, что нет. Иначе страницы не будут существующими. А для того, чтобы они не индексировались, существует метатег  robots  noindex.

L
На сайте с 19.03.2017
Offline
45
#16
rodjers #:

Да  ?prefix_id=6&order=title

Слушай, была похожая проблема.

В итоге решил следующим образом.

Для директивы яндекс параметры закрыл

Для директивы гугл в роботс такое не прописывал. Просто на страницах в хедер поставили ноиндекс нофоллов. Проблема ушла.

Вообще со временем понял, что гугл плевать хотел на этот robots.txt

R
На сайте с 15.11.2013
Offline
97
#17

На несуществующие страницы выдаёт 404, ошибки в покрытии исчезли, но на днях опять полезли типо таких

https://сайт.ру/engine/go.php?url=набор символов

https://сайт.ру/engine/go.php?url=набор символов %3D

https://сайт.ру/engine/go.php?url=набор символов %3D= 

было 30 ошибок  в покрытии, убрал из роботса Disallow вообще, прибавилось ещё 15 ошибок от куда они берутся?

А что с айболитом больше не поддерживается? На revisium.com не зайдёш  404.

Vladimir SEO
На сайте с 19.10.2011
Online
2046
#18

по поводу проблемы - если в коде есть ссылки на страницы и там трафик - страницы залетают в индекс на ура , не смотря на роботс


лечится ноиндексом или каноном и открытым роботсом

ну а лучше всего не создавать такие страницы

Эксперт по продуктам Google https://support.google.com/profile/58734375 ᐈ Продвижение коммерческих сайтов https://kulinenko.com/
R
На сайте с 15.11.2013
Offline
97
#19
Vladimir SEO #:

по поводу проблемы - если в коде есть ссылки на страницы и там трафик - страницы залетают в индекс на ура , не смотря на роботс


лечится ноиндексом или каноном и открытым роботсом

ну а лучше всего не создавать такие страницы

Все эти страницы начинаются с /engine/go.php?url= и они все ведут на главную. В cms dle есть такой файл  /engine/go.php он вроде как для для редиректа ссылок.

Searchengines.guru — Новости IT и форум про интернет-маркетинг, SEO-оптимизацию, сайтостроение
Searchengines.guru — Новости IT и форум про интернет-маркетинг, SEO-оптимизацию, сайтостроение
  • searchengines.guru
Крупнейший русскоязычный форум и новостной сайт, посвященный поисковой оптимизации, продвижению сайтов, интернет-маркетингу, работе с контекстной рекламой, монетизации трафика, сайтостроению.
Vladimir SEO
На сайте с 19.10.2011
Online
2046
#20
rodjers #:

Все эти страницы начинаются с /engine/go.php?url= и они все ведут на главную. В cms dle есть такой файл  /engine/go.php он вроде как для для редиректа ссылок.

я про общую проблему - не только на ДЛЕ а вообще по заголовку темы написал

сам уже давно сражаюсь с такими страницами но в ИМ

123

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий