Яндекс-бот приходит на несуществующие урлы

D
На сайте с 21.08.2017
Offline
28
616

Всем привет, бот яндекса странно видит урлы. Берёт относительный урл, к нему через слеш прописывает полный урл, и пытается по этому адресу перейти. У кого такое было? Что делали?

Строчка из лога:

123.12.49.1817 - - [02/Dec/2018:02:21:30 +0300] "GET /rasdel/stranica/https://www.site.ru/rasdel/stranica/ HTTP/1.1" 404 4261 "-" "Mozilla/5.0 (compatible; YandexDirect/3.0; +http://yandex.com/bots)"

Mik Foxi
На сайте с 02.03.2011
Offline
1078
#1

dolya, это у вас ссылки значит есть такие кривые на сайте, или на чужих сайтах ссылка на ваш сайт в таком кривом виде.

но код 404, волноваться неочем.

Антибот, антиспам, веб файрвол, защита от накрутки поведенческих: https://antibot.cloud/ + партнерка, до 40$ с продажи.
D
На сайте с 21.08.2017
Offline
28
#2

foxi, не, это системная ошибка, сотни таких попыток. Битые ссылки проверяю краулерами регулярно, это не они.

18ans
На сайте с 30.08.2017
Offline
44
#3
dolya:
foxi, не, это системная ошибка, сотни таких попыток. Битые ссылки проверяю краулерами регулярно, это не они.

Прислушайтесь к мнению выше... Я было тоже... а потом нашел на сайте бочину... от меня это было...

Vladimir SEO
На сайте с 19.10.2011
Offline
1742
#4
dolya:
foxi, не, это системная ошибка, сотни таких попыток. Битые ссылки проверяю краулерами регулярно, это не они.

ну а сами страницы вы проверяли ? по ним 404 ?

и ссылки смотрели битые в яндексе ?

Эксперт по продуктам Google https://support.google.com/profile/58734375 ᐈ Продвижение коммерческих сайтов https://kulinenko.com/
D
На сайте с 21.08.2017
Offline
28
#5

18ans, пробиваю этот "битый" урл поиском по всему коду - реально ничего не находит. +гугл вообще не ходит по такого рода ссылкам - а яндексбот будто где-то версию сайта с такими ссылками увидел - записей очень много. Такое раньше бывало по моей вине, опыт есть, к сожалению.

---------- Добавлено 02.12.2018 в 15:13 ----------

xVOVAx, всё проверили. страницы такого рода конечно отдают 404.

Mik Foxi
На сайте с 02.03.2011
Offline
1078
#6

dolya, дело 100% в ссылках, если не с вашего сайта то с чужих, о которых знает яндекс.

fliger
На сайте с 17.09.2015
Offline
107
#7

1. Это не Яндекс-бот, а китаец, который им прикидывается.

2. Странно, что ссылки подобного вида у вас отдают 404 код, а не 403. Найстройте разрешенный шаблон допустимых URI.

Станислав Романенко
На сайте с 05.09.2007
Offline
325
#8
dolya:
18ans, пробиваю этот "битый" урл поиском по всему коду - реально ничего не находит.

Пробивать надо такие ссылки:


<a href="rasdel/stranica/"></a>

То есть, где после первой кавычки нет слэша. Правильная относительная ссылка должна быть такой:


<a href="/rasdel/stranica/"></a>
Сайт не лезет в топ? Сделаю аудит без воды всего за 8000 рублей! Отзывы клиентов тут (https://searchengines.guru/ru/forum/939454), почта для связи: ingref@ya.ru Посмотрю, в чём проблема с вашим сайтом, за 100 рублей (https://searchengines.guru/ru/forum/comment/15662080).
Л1
На сайте с 27.12.2016
Offline
160
#9

Дабы не плодить темы, спрошу тут: скажите, вот поставил запрет в файле htaccess для ботов в том числе и бингботу, а он один хран обходит сайт https://hkar.ru/WvTN в чем может быть проблема? или так и должно быть? сорри за тупой вопрос

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий