- Поисковые системы
- Практика оптимизации
- Трафик для сайтов
- Монетизация сайтов
- Сайтостроение
- Социальный Маркетинг
- Общение профессионалов
- Биржа и продажа
- Финансовые объявления
- Работа на постоянной основе
- Сайты - покупка, продажа
- Соцсети: страницы, группы, приложения
- Сайты без доменов
- Трафик, тизерная и баннерная реклама
- Продажа, оценка, регистрация доменов
- Ссылки - обмен, покупка, продажа
- Программы и скрипты
- Размещение статей
- Инфопродукты
- Прочие цифровые товары
- Работа и услуги для вебмастера
- Оптимизация, продвижение и аудит
- Ведение рекламных кампаний
- Услуги в области SMM
- Программирование
- Администрирование серверов и сайтов
- Прокси, ВПН, анонимайзеры, IP
- Платное обучение, вебинары
- Регистрация в каталогах
- Копирайтинг, переводы
- Дизайн
- Usability: консультации и аудит
- Изготовление сайтов
- Наполнение сайтов
- Прочие услуги
- Не про работу
В 2023 году 36,9% всех DDoS-атак пришлось на сферу финансов
А 24,9% – на сегмент электронной коммерции
Оксана Мамчуева
Как удалить плохие SEO-ссылки и очистить ссылочную массу сайта
Применяем отклонение ссылок
Сервис Rookee
Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий
Дело в том, что робот Рамблера не находит robots.txt и дальше не идёт уже в течение 2 недели. В индексе есть только главная страница. Стоит ли мне создать файл robots.txt с разрешением всем роботам индексировать весь сайт?
Создай просто пустой, тогда он ничего не запрещает.
Впринципе и когда нет его он ничего не запрещает )
А про индексацию, жди.
Стоит ли мне создать файл robots.txt с разрешением всем роботам индексировать весь сайт?
Да, либо такой, либо просто пустой файл.
Спасибо ответившим!
хм... а мне вот интересно, небыло у меня его на сайте, и склейка нормально произошла с www и без него, да и развивался, тоже без проблем...
ну и зачем он нужен? или просто как говорится, что был? )))
Чтобы запрещать, а также скажем указать карту сайта.
По дефолту разрешено все
Чтобы запрещать, а также скажем указать карту сайта.
По дефолту разрешено все
ну а пустой его зачем создавать?
ну и зачем он нужен?
robots.txt нужен для того чтобы запрещать к индексации некоторые разделы или страницы на сайте, указывать на правильное «зеркалирование» домена, рекомендовать поисковому роботу соблюдать определенный временной интервал между скачиванием документов с сервера и т.д.
ну а пустой его зачем создавать?
Ну хотя бы для того, чтобы ошибки 404 в логах не собирать :)
Дело в том, что робот Рамблера не находит robots.txt и дальше не идёт уже в течение 2 недели. В индексе есть только главная страница. Стоит ли мне создать файл robots.txt с разрешением всем роботам индексировать весь сайт?
Как вариант решения просто размести счетчик рамблера у себя на страницах сайта и процесс индексации ускорится.
Стоит ли мне создать файл robots.txt с разрешением всем роботам индексировать весь сайт?
Не стоит. В роботс нужно писать только запреты.