- Поисковые системы
- Практика оптимизации
- Трафик для сайтов
- Монетизация сайтов
- Сайтостроение
- Социальный Маркетинг
- Общение профессионалов
- Биржа и продажа
- Финансовые объявления
- Работа на постоянной основе
- Сайты - покупка, продажа
- Соцсети: страницы, группы, приложения
- Сайты без доменов
- Трафик, тизерная и баннерная реклама
- Продажа, оценка, регистрация доменов
- Ссылки - обмен, покупка, продажа
- Программы и скрипты
- Размещение статей
- Инфопродукты
- Прочие цифровые товары
- Работа и услуги для вебмастера
- Оптимизация, продвижение и аудит
- Ведение рекламных кампаний
- Услуги в области SMM
- Программирование
- Администрирование серверов и сайтов
- Прокси, ВПН, анонимайзеры, IP
- Платное обучение, вебинары
- Регистрация в каталогах
- Копирайтинг, переводы
- Дизайн
- Usability: консультации и аудит
- Изготовление сайтов
- Наполнение сайтов
- Прочие услуги
- Не про работу
Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий
Помогите разобраться у меня есть новый сайт http://top-reyting.ru/ в котором в файле robots.txt стоит Disallow: /forum и Disallow: /components/ , но поисковики не обращают внимание и сканируют их. forum я отключил но сканирование все равно продолжается и с каждым днем все больше ссылок. Или может это через то что сайт новый?, потом ссылки вылетят с поисковика?, как думаете?. И если можно дайте советы как сайт, может что я делаю не так, а то это мой первый сайт..., спасибо за ответы..
Где вообще этот форум /forum находится?
Вот пример ссылок которые сканирует гуглЖ
/forum/search.html
/forum/profile.html?user_id=9
/forum/profile.html?user_id=2 6
/forum/forum.html?id=9
top-reyting.ru/components/com_comprofiler/plugin/u...и т.д.
top-reyting.ru/components/com_comprofiler/plugin/u...и т.д.
top-reyting.ru/components/com_comprofiler/plugin/u...и т.д.
---------- Добавлено 10.03.2012 в 13:12 ----------
kostiknc Форум отключил , он находится в папке components
Яндекс исключил страницы.
Напишите в роботс для гугла инструкцию и для яндекса!
User-agent: Googlebot и пишите для Гугла что исключать, то же самое с яндексом.
Vavan168 Я не думаю, что для гугла отдельно нужно прописывать роботс, там же User-agent: * прописанный + в панеле вэб мастеров гугла когда проверяю данные ссылки то пишет, что они заблокированы robots.txt. Еще подожду, думаю может это он так к новым сайтам относится, со временем надеюсь выкинет страницы, но пока они только увеличиваются.)