Wordpress, robotx.txt и google

12
I
На сайте с 29.08.2012
Offline
0
2767

Не понимаю в чем проблемам, объясните, пожалуйста.

Сайт гуглом и яндексом еще не проиндексировался, только сегодня купить домен, а пока настраивать шаблон и т.д. И вот дошла очередь robots. Захожу в гугл инструменты для веб мастеров, что б посмотреть как гугл бот видит мой сайт, вбиваю адресс домашней страницы и вижу сообщение:

Страницу не удалось просканировать, так как она заблокирована с помощью robots.txt.

Но мой robots.txt:

User-agent: *
Allow: /wp-content/uploads/
Disallow: /wp-admin/
Disallow: /wp-includes/
Disallow: /wp-content/
Disallow: /wp-*
Disallow: */trackback
Disallow: */comment-*
Disallow: */feed

Почему гугл не индексирует?

А началось все с того, что гугл не захотел брать мой sitemap, потому, что он заблокирован robots.txt

Хотя в Состояние - Заблокированные URL - все нормально.

MD
На сайте с 29.08.2012
Offline
13
#1

Я конечно не профессионал, но Вам не кажется, что Вы слишком много убрали от индексации? 🍿

Возможно это мешает:

Disallow: /wp-includes/

Disallow: /wp-content/

Больше и быть не может, но это моё ИМХО. Но лучше подождите, кто точно скажет. :)

Скачай Гаджеты для Windows 7, XP, Vista (http://gadgetswindows.ru/)
I
На сайте с 29.08.2012
Offline
0
#2

Поменял на:

Disallow: /wp-content/plugins

Disallow: /wp-content/themes

Те же яйца...Sitemap и смотреть как googlebot не могу :(

Даже с пустым robots тоже самое. Может это просто глюк гугла?

MD
На сайте с 29.08.2012
Offline
13
#3

Хм, даже не знаю. Подождите немного, потом попробуйте. Как раз кто-нибудь здесь может что подскажет.

I
На сайте с 29.08.2012
Offline
0
#4

Никаких идей? Теперь индексация не проходит....В гугле начал искать свой сайт и вот:

Описание веб-страницы недоступно из-за ограничений в файле robots.txt. Подробнее...

Может у меня robots.txt не правильный?

Я в отчаянье.... Поставил robots

User-agent: *
Allow: /

И все равно sitemap добавить не могу...:(

SeVlad
На сайте с 03.11.2008
Offline
1609
#5
innex:
только сегодня купить домен,
...как гугл бот видит мой сайт,

А он его вообще видит? Сколько времени прошло после прописывания ДНС?

И покажи сайт (в топик, не в личку).

Делаю хорошие сайты хорошим людям. Предпочтение коммерческим направлениям. Связь со мной через http://wp.me/P3YHjQ-3.
denden11
На сайте с 29.06.2005
Offline
94
#6

в админке WP: Параметры->настройка приватности->Разрешить поисковым системам индексировать сайт.

I
На сайте с 29.08.2012
Offline
0
#7
SeVlad:
А он его вообще видит? Сколько времени прошло после прописывания ДНС?
И покажи сайт (в топик, не в личку).

Вообще видит. Если искать в гугле по шаблону site:адресс - он находит главную и пишет:

Описание веб-страницы недоступно из-за ограничений в файле robots.txt.

ДНС прописаны вчера.

denden11:
в админке WP: Параметры->настройка приватности->Разрешить поисковым системам индексировать сайт.

Было сделано перед тем, как отправлять гугле sitemap.

denden11
На сайте с 29.06.2005
Offline
94
#8

а если роботс убрать на время и подсунуть sitemap?

I
На сайте с 29.08.2012
Offline
0
#9

Попробовал...Правда не знаю, как его убрать, т.к. если его нет - WP генерирует свой. Кинул туда пустой. Пытаюсь скормить сайтмэп - тоже самое:

При попытке доступа к вашему файлу Sitemap произошла ошибка. Убедитесь, что этот файл Sitemap соответствует нашим правилам и находится в указанном местоположении, а затем отправьте его повторно.

URL, запрещенный файлом robots.txt

I
На сайте с 29.08.2012
Offline
0
#10

По непонятным причинам все само собой пришло в норму. Походу все таки проблемы были у гугла.

Всем спасибо за участие.

12

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий