Помогите разобраться......

Serega2711
На сайте с 10.03.2012
Offline
125
375

Помогите разобраться у меня есть новый сайт http://top-reyting.ru/ в котором в файле robots.txt стоит Disallow: /forum и Disallow: /components/ , но поисковики не обращают внимание и сканируют их. forum я отключил но сканирование все равно продолжается и с каждым днем все больше ссылок. Или может это через то что сайт новый?, потом ссылки вылетят с поисковика?, как думаете?. И если можно дайте советы как сайт, может что я делаю не так, а то это мой первый сайт..., спасибо за ответы..

kostiknc
На сайте с 29.05.2011
Offline
102
#1

Где вообще этот форум /forum находится?

Юридическим сайтам - ⭐ Москва и Мо - 350 руб. Спб и ЛО - 250 руб. (https://goo.gl/kXRN5U)
Serega2711
На сайте с 10.03.2012
Offline
125
#2

Вот пример ссылок которые сканирует гуглЖ

/forum/search.html

/forum/profile.html?user_id=9

/forum/profile.html?user_id=2 6

/forum/forum.html?id=9

top-reyting.ru/components/com_comprofiler/plugin/u...и т.д.

top-reyting.ru/components/com_comprofiler/plugin/u...и т.д.

top-reyting.ru/components/com_comprofiler/plugin/u...и т.д.

---------- Добавлено 10.03.2012 в 13:12 ----------

kostiknc Форум отключил , он находится в папке components

[Удален]
#3

Яндекс исключил страницы.

Напишите в роботс для гугла инструкцию и для яндекса!

User-agent: Googlebot и пишите для Гугла что исключать, то же самое с яндексом.

Serega2711
На сайте с 10.03.2012
Offline
125
#4

Vavan168 Я не думаю, что для гугла отдельно нужно прописывать роботс, там же User-agent: * прописанный + в панеле вэб мастеров гугла когда проверяю данные ссылки то пишет, что они заблокированы robots.txt. Еще подожду, думаю может это он так к новым сайтам относится, со временем надеюсь выкинет страницы, но пока они только увеличиваются.)

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий