- Поисковые системы
- Практика оптимизации
- Трафик для сайтов
- Монетизация сайтов
- Сайтостроение
- Социальный Маркетинг
- Общение профессионалов
- Биржа и продажа
- Финансовые объявления
- Работа на постоянной основе
- Сайты - покупка, продажа
- Соцсети: страницы, группы, приложения
- Сайты без доменов
- Трафик, тизерная и баннерная реклама
- Продажа, оценка, регистрация доменов
- Ссылки - обмен, покупка, продажа
- Программы и скрипты
- Размещение статей
- Инфопродукты
- Прочие цифровые товары
- Работа и услуги для вебмастера
- Оптимизация, продвижение и аудит
- Ведение рекламных кампаний
- Услуги в области SMM
- Программирование
- Администрирование серверов и сайтов
- Прокси, ВПН, анонимайзеры, IP
- Платное обучение, вебинары
- Регистрация в каталогах
- Копирайтинг, переводы
- Дизайн
- Usability: консультации и аудит
- Изготовление сайтов
- Наполнение сайтов
- Прочие услуги
- Не про работу

В 2023 году Google заблокировал более 170 млн фальшивых отзывов на Картах
Это на 45% больше, чем в 2022 году
Оксана Мамчуева
Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий
Ребята пмогите! недавно начитался форумов и решил закрыть от индексации все ненужные папки через Robots.txt, и сделал это таким образом.
User-agent: *
Host: smstut.ru
User-Agent: *
Disallow: /shop/
Disallow: /kupitut.php?my=1&
Disallow:/baner/
Disallow:/geometry/
Disallow:/hmsms/
Disallow:/image/
Disallow:/jpisms/
Disallow:/lib/
Disallow:/libs/
Disallow:/narodsms/
Disallow:/sky/
Disallow:/skyform/
Disallow:/sms/
Disallow:/sms_chat/
Disallow:/smsbox/
Disallow:/smsmusic/
Disallow:/test/
Disallow:/tmp/
А сейчас прочитал что User-agent: *
Host: smstut.ru
тоже вредит индексации. И что самое непонятное, то что в панели Вебмастера от Яндекса:
Поисковый индекс
Страниц в индексе: 0
Внешних ссылок на страницы сайта: !!!!!!!
Внутренних ссылок на страницы сайта: 0
Кол-во ошибок: 1
Документ запрещен в файле robots.txt
Это что у меня весь сайт чтоли запрещён?
Помогите пожалуйста разобраться из-за чего это моглу случится!
Host: smstut.ru
тоже вредит индексации.
хм...у меня с самого начала существования одного сайта, стоит директава Host в фаиле robots. И всё норм.)
НИчего из рядо вон выходящего не вижу в вашем фаиле.
Не баловались рассылкой под доскам, каталогам чёрным?
НИчего из рядо вон выходящего не вижу в вашем фаиле.
Не баловались рассылкой под доскам, каталогам чёрным?
100% утверждаю что ничего подобного не делал. Самое страшное и единственное что я делал это, покупка ссылок с сапы. Ито не много и делал проверку на проиндексированность в Яндесе каждой страницы где спокупал ссылку.
И вот ещё что заметил в панеле вебмастера. Ра ньше у меня показывалось число загруженных страниц в яндексе и число страниц представленных в поиске. А теперь в загруженных страницах только 1 ито не главная. А в индексе ноль.
Может просто сайт тупо вывалился из индекса во время последнего АП. И ещё это было где-то под утро, сегоднешнего дня. Сначала траф шёл с яндекса, где-то до 6 утра.
. Ра ньше у меня показывалось число загруженных страниц в яндексе и число страниц представленных в поиске. А теперь в загруженных страницах только 1 ито не главная. А в индексе ноль.
При бане число загруженных страниц не меняется (в смысле не уменьшается). Значит, скорее всего намудрили с запретами. Не зная структуру сайта, сложно сказать где. Напишите Платону, он достаточно быстро отвечает.
P.S. Закрывающие слэши, в принципе, лишние. Директиву Host не надо отдельно выносить, напишите ее после всех disallow. Либо в отдельном user-agent для Яндекса, опять-таки после disallow.
При бане число загруженных страниц не меняется (в смысле не уменьшается). Значит, скорее всего намудрили с запретами. Не зная структуру сайта, сложно сказать где. Напишите Платону, он достаточно быстро отвечает.
А по большому счёту нет не какой структуры, все основные страницы лежат в корневеке. Корневик я не закрывал. Да и вроде уже было несколько АПов и всё было нормально.
Написал Платону. подожду от него ответа. Лиж бы не пришлось ждать ответа неделями.
Мне кажеться, правильнее написать так:
User-agent: Yandex
Disallow:
Host: smstut.ru
User-Agent: *
Disallow: /shop/
Disallow: /kupitut.php?my=1&
Disallow: /baner/
Disallow: /geometry/
Disallow: /hmsms/
Disallow: /image/
Disallow: /jpisms/
Disallow: /lib/
Disallow: /libs/
Disallow: /narodsms/
Disallow: /sky/
Disallow: /skyform/
Disallow: /sms/
Disallow: /sms_chat/
Disallow: /smsbox/
Disallow: /smsmusic/
Disallow: /test/
Disallow: /tmp/
Я подобный роботс пишу на всех своих сайтах и все ОК
ЗЫ: после Disallow: ставьте пробел
НИчего из рядо вон выходящего не вижу в вашем фаиле.
Фига себе, ничего из ряда вон выходящего. Ну-ну...
spanchbob, Вас кто учил так составлять файл robots.txt? Допускается только одно правило вида User-agent: *. Ваш robots.txt составлен с ошибкой, ничего удивительного, что Яндекс отказывается следовать рекомендациям в нём и индексировать Ваш ресурс.
Я подобный роботс пишу на всех своих сайтах и все ОК
Угу, только роботу Яндекса он ничего не запрещает.
spanchbob, пропишите правильный robots.txt и советую ознакомится с правилами использования robots.txt
во избежании недоразумений в следующий раз. ;)
Ziby, вообще-то User-Agent: * дает установку всем роботам, а если нужно что-то одному показывать а другому нет, тогда и пишется
User-Agent: Yandex
Disallow: /sms_chat/
....
Не ограничивайте себя только яндексом
Kirik, он даёт установку всем роботам тогда, когда нет инструкции для роботов конкретных ПС.
Повторюсь, в приведённом Вами примере выше для робота Яндекса ничего не запрещается.
Позволю себе не согласится с Вами, так как по логике, в Вашем примере яндекс должен учесть 2 раза одинаковые установки.
User-Agent: Yandex
Disallow: /shop/
.....
и
User-Agent: *
Disallow: /shop/
.....
поддерживаю Ziby - если для ПС есть свой раздел, раздел * игнорируется
agent - с большой буквы желательно