- Поисковые системы
- Практика оптимизации
- Трафик для сайтов
- Монетизация сайтов
- Сайтостроение
- Социальный Маркетинг
- Общение профессионалов
- Биржа и продажа
- Финансовые объявления
- Работа на постоянной основе
- Сайты - покупка, продажа
- Соцсети: страницы, группы, приложения
- Сайты без доменов
- Трафик, тизерная и баннерная реклама
- Продажа, оценка, регистрация доменов
- Ссылки - обмен, покупка, продажа
- Программы и скрипты
- Размещение статей
- Инфопродукты
- Прочие цифровые товары
- Работа и услуги для вебмастера
- Оптимизация, продвижение и аудит
- Ведение рекламных кампаний
- Услуги в области SMM
- Программирование
- Администрирование серверов и сайтов
- Прокси, ВПН, анонимайзеры, IP
- Платное обучение, вебинары
- Регистрация в каталогах
- Копирайтинг, переводы
- Дизайн
- Usability: консультации и аудит
- Изготовление сайтов
- Наполнение сайтов
- Прочие услуги
- Не про работу

VK приобрела 70% в структуре компании-разработчика red_mad_robot
Которая участвовала в создании RuStore
Оксана Мамчуева

Все что нужно знать о DDоS-атаках грамотному менеджеру
И как реагировать на "пожар", когда неизвестно, где хранятся "огнетушители
Антон Никонов
Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий
Здравствуйте. Прочитал разные умные статьи:popcorn:, да и от самого Google, о том, как правильно написать robots.txt. Написал:) и разместил в корневом каталоге моего сайта http://investadvisement.com. Думал, что правильно. Но робот от Google проигнорировал мой robots.txt и проиндексировал те страницы сайты, которые я запретил.
Ответьте пожалуйста, что не так в моем файле robots.txt?
User-agent: Googlebot
Disallow: /page-7.html
Disallow: /page-10.html
Disallow: /page-38.html
Disallow: /page-39.html
Disallow: /page-40.html
Disallow: /page-41.html
Disallow: /page-42.php
Disallow: /page-44.html
Disallow: /page-52.html
Disallow: /page-57.html
Disallow: /page-64.html
Disallow: /page-66.html
Disallow: /page-68.html
Disallow: /exchange-capital.html
Disallow: /imlogin.php
Более того, сегодня просмотрел проиндексированные страницы и о Боже:eek:, появились еще и такие, как эта: "Общие вопросы - Index of" Откуда этот Index of??? Нет у меня страниц с таким именем? Как сделать, чтобы удалить их и больше не появлялись:confused:?
2. Еще одна для меня странность от Google.
А именно это сообщение: Доступ к URL заблокирован в файле robots.txt. Файл Sitemap содержит URL, доступ к которым заблокирован в файле robots.txt.
Причем тут Sitemap и заблокированные страницы в robots.txt? Ведь Sitemap - это общая карта сайта, где показаны все его страницы, в том числе и те, которые я не хочу индексировать роботами (материал в них не уникальный или закрытый для всеобщего обозрения).
В-общем, должен ли я удалить в Sitemap те URL, которые я заблокировал в robots.txt?
3. Если робот от Google все же распознал в robots.txt URL тех страниц, что я запретил к индексированию, то почему же он их проиндксировал (см. п.1 выше )?
Резюме: ох и тяжело быть новичком в seo-оптимизации. Когда занешь мало, но хочешь чтобы личный сайт работал без проблем;)