Дублирование страниц с двойным слешем на конце

And-ry
На сайте с 02.01.2008
Offline
163
852

Добрый вечер. Собственно проблема в названии темы. Гугл дублирует страницы подобным образом:

http://site.com/page/

http://site.com/page//

т.е. в индексе присутствуют две страницы.

Откуда он их взял - не понятно. Как избавиться от таких страниц?

Спасибо.

bork75
На сайте с 14.11.2011
Offline
93
#1

Поидеи в роботсе нужно написать

Disallow: //

Но

Disallow: / - отключает весь сайт, поэтому непонятно, как гугл отреагирует на такую запись.

Можно проверить в http://webmaster.yandex.ru/robots.xml

Если признак у всех одинаковый то

Disallow: /page//

And-ry
На сайте с 02.01.2008
Offline
163
#2

Мне вот просто интересно откуда берутся эти страницы.. На сайте подобных внутренних ссылок нет.

Ок спасибо, попробую роботс настроить...

Хотелось бы конечно редиректом перенаправлять..

And-ry
На сайте с 02.01.2008
Offline
163
#3

Только сейчас додумался, что подобным образом

Disallow: /page//

исключатся страницы, которые идут после "//", каковых нет.

Есть только /page//, которых штучек 5, вот их надо исключить...

Что, никто не сталкивался с подобной проблемой?

YD
На сайте с 03.06.2008
Offline
363
#4
And-ry:
Только сейчас додумался, что подобным образом
Disallow: /page//
исключатся страницы, которые идут после "//", каковых нет.
Есть только /page//, которых штучек 5, вот их надо исключить...
Что, никто не сталкивался с подобной проблемой?

Если штучек 5- удалите из индекса вручную в WMT

богоносец
На сайте с 30.01.2007
Offline
774
#5
And-ry:
Откуда он их взял - не понятно.

http://www.yandex.ru/all//

Данные запроса

GET /all// HTTP/1.1
Host: www.yandex.ru

Данные ответа
HTTP/1.1 200 Ok

Disallow: /*//

Вот ещё экзотика.

HTTP/1.1 200 OK

And-ry
На сайте с 02.01.2008
Offline
163
#6
богоносец:

Disallow: /*//

Спасибо, помогло )

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий