Файл robots как бы блокирует все URL

53

Goshex

19 октября 2015, 09:34

439

Гугл считает, что файл Sitemap содержит URL, доступ к которым заблокирован в файле robots.txt.

Сайт на CMS DLE. Вот мое стандартное оформление роботса (раньше таких косяков не было):

User-agent: *
Disallow: /user/
Disallow: /tags/
Disallow: /page/
Disallow: */page/*
Disallow: /backup/
Disallow: /language/
Disallow: /admin.php
Disallow: /newposts/
Disallow: /lastnews/
Disallow: /engine/go.php
Disallow: /engine/download.php
Disallow: /statistics.html
Disallow: /*subaction=userinfo
Disallow: /*subaction=newposts
Disallow: /*do=lastcomments
Disallow: /*do=login
Disallow: /*do=feedback
Disallow: /*do=register
Disallow: /*do=lostpassword
Disallow: /*do=addnews
Disallow: /*do=stats
Disallow: /*do=pm

Host: site.ru
Sitemap: http://site.ru/sitemap.xml

Подскажите, в чем проблема? Файл роботс перековырял как мог, сайтмап перезагружал в гугл вебмастер, все бесполезно.

K4

7

kactu4

19 октября 2015, 09:38

#1

а может вы не там копаете? И у Вас действительно в сайтмапе есть урлы которые этот роботс закрывает? :)

G

53

Goshex

19 октября 2015, 09:45

#2

Да, забыл добавить. Сайт новый и роботс как бы блокирует все добавленные в сайтмап урл.

Как удалить плохие SEO-ссылки и очистить ссылочную массу сайта

VK приобрела 70% в структуре компании-разработчика red_mad_robot