Все вопросы по robots.txt

horizont
На сайте с 28.01.2015
Offline
63
#1031

Чего то не сработало. Проверял программой Netpeak

png 1.png
png 2.png
callidus
На сайте с 18.07.2011
Offline
334
#1032

А так что ли тоже не сработает???

Disallow: /?p=*

Disallow: /?ps=*

Надоело самостоятельно собирать семантическое ядро ( http://goo.gl/rekQL9 )? Отдай на аутсорс.
Станислав Романенко
На сайте с 05.09.2007
Offline
325

horizont,

Disallow: /*?p=

Disallow: /*?ps=

Сайт не лезет в топ? Сделаю аудит без воды всего за 8000 рублей! Отзывы клиентов тут (https://searchengines.guru/ru/forum/939454), почта для связи: ingref@ya.ru Посмотрю, в чём проблема с вашим сайтом, за 100 рублей (https://searchengines.guru/ru/forum/comment/15662080).
horizont
На сайте с 28.01.2015
Offline
63
#1034

всё ребята, спасибо. Сработало

Papik
На сайте с 15.05.2009
Offline
61
#1035

Несколько месяцев тому назад сделал тестовый сайт и чтобы он не индексировался

в robots.txt прописал

User Agent: *

Disallow: /

Через месяц увидел в статистике Яндекс.Метрике что на сайт заходят все больше и больше.

Как это понимать?

[Удален]
#1036

Наверное, надо посмотреть в метрике, откуда заходят? 😂

cscope
На сайте с 13.02.2005
Offline
525
#1037

А именно, чтобы гугл кушал не более N страниц в N промежуток времени, например не более 1к в неделю?

Можно как то через htaccess или еще как то задать?

getnaked
На сайте с 13.02.2011
Offline
62
#1038

А что должно быть, если робот полезет индексировать 1001 страницу - банить его?

Вообще в панели Вебмастера можно указать паузы между индексацией страниц вплоть до 500 секунд.

Мой блог (http://getked.ru)
sema_87
На сайте с 28.08.2009
Offline
249
#1039

в роботс тхт

User-agent: Google

Crawl-delay: 2 - число секунд между переходами стр

Uh-Oh We're In Trouble, Something's Come Along And It's Burst Our Bubble!
getnaked
На сайте с 13.02.2011
Offline
62
#1040
sema_87:
в роботс тхт
User-agent: Google
Crawl-delay: 2 - число секунд между переходами стр

Гугл не учитывает эту директиву.

png 164467.png

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий