- Поисковые системы
- Практика оптимизации
- Трафик для сайтов
- Монетизация сайтов
- Сайтостроение
- Социальный Маркетинг
- Общение профессионалов
- Биржа и продажа
- Финансовые объявления
- Работа на постоянной основе
- Сайты - покупка, продажа
- Соцсети: страницы, группы, приложения
- Сайты без доменов
- Трафик, тизерная и баннерная реклама
- Продажа, оценка, регистрация доменов
- Ссылки - обмен, покупка, продажа
- Программы и скрипты
- Размещение статей
- Инфопродукты
- Прочие цифровые товары
- Работа и услуги для вебмастера
- Оптимизация, продвижение и аудит
- Ведение рекламных кампаний
- Услуги в области SMM
- Программирование
- Администрирование серверов и сайтов
- Прокси, ВПН, анонимайзеры, IP
- Платное обучение, вебинары
- Регистрация в каталогах
- Копирайтинг, переводы
- Дизайн
- Usability: консультации и аудит
- Изготовление сайтов
- Наполнение сайтов
- Прочие услуги
- Не про работу
Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий
Анализирую сайт в Screaming frog, выдает статус код 403, но сайт работает. В robots открыт, noindex, nofollow отсутствуют. В вебмастере ошибок нет, страницы в индексе. Какие еще могут быть причины этого статус кода?
Анализирую сайт в Screaming frog, выдает статус код 403, но сайт работает. В robots открыт, noindex, nofollow отсутствуют. В вебмастере ошибок нет, страницы в индексе. Какие еще могут быть причины этого статус кода?
Не нужно чужие сайты анализировать. 403 Вы обойдёте, но дальше Вас заблочат более интересно.
Не нужно чужие сайты анализировать. 403 Вы обойдёте, но дальше Вас заблочат более интересно.
В общем я сама нашла проблему, всем спасибо за внимание.
Поделитесь решением для будущих поколений
В настройках Configuration перейти в User-Agent, там поменять "Preset User-Agents" на custom или другой необходимый (YandexBot, GoogleBot и т.д.).
В robots открыт, noindex, nofollow отсутствуют.
Всё это никаким боком не относится к статусу 403.
Не нужно чужие сайты анализировать. 403 Вы обойдёте, но дальше Вас заблочат более интересно.
Почему это не нужно?! О_О
Всё это никаким боком не относится к статусу 403.
Запросто может относиться, потому что некоторые разработчики сайтов выдают 403 и прочие запрещающие ошибки для тех, кто к ним идет без юзер агента - потому что это 100% признак бота от ленивого разраба, которому было влом передать реалистичную строку юзер агента😆
Вы мой пост прочитали или просто цитату вставили?
Ваш ответ - из Вашей головы. А мой ответ - это ответ на стартпост.
Ещё раз: Не относится вообще никак, что бы вы там себе ни придумывали.
Всё это никаким боком не относится к статусу 403.