А у яндексов с местной нечистью определение другое
/ru/forum/comment/9591438
/ru/forum/822367
Вообще национальные особенности учёта ответа сервера на GET /robots.txt
(подлый гугл при этом учитывает переадресацию, а яндекс нет)
проявлены почти глобально
https://www.yandex/robots.txt
https://yandex.ua/robots.txt
https://yandex.fr/robots.txt
https://yandex.com/robots.txt
Подождать пока допилят
(а они ждут — начнут ли массы это использовать).
Повторю давнее:
Ну и чего там у вашего Яндекса получилось с [http|https]://[|www.]google.com/
https://www.yandex.ru/yandsearch?text=url%3Agoogle.com
https://www.yandex.ru/yandsearch?text=url%3Awww.google.com
http://google.com/robots.txt 301 Location: https://www.google.com/robots.txt
https://google.com/robots.txt 301 Location: https://www.google.com/robots.txt
https://www.google.com/robots.txt 200 OK
http://www.google.com/robots.txt 200 OK
А теперь ответьте: Это они хелп Яндекса не читали или им насрать? 302 с .com
Пока температура поднимется, цена тоже...
Не проблема, но часто упускаемый из виду пустячок, который надо бы написать отдельно...
раз уж:
Сколько будет грузиться страница по HTTP — зависит от идиотизма создателя.
Перелистывал недавно хелп, не нашёл там такого, хотя ещё недавно помню было...
Такой, чтобы это не подрывало CTR Директа /ru/forum/975991
А дальше что конкретно делать?.. доноры ведут на конкретные /страницы.