Яндекс ссылается что robots.txt запрещает индексировать

12 3
Q
На сайте с 09.02.2013
Offline
1
1185

Здравствуйте!

Зашел в вебмастер яндекса и увидел что он типа загрузил 60 страниц для индексирования и проиндексировал всего одну, потому что остальные вроде как запрещает robots.txt

До этого такого я не видел.

Сайт молодой extruziv.ru - до этого в индекс попала 1 страница, потом через пару дней вторая, потом третья. Все. Потом тишина пару недель и вот 59 страниц оказывается запрещает robots.txt...

про robots.txt почитал ..вроде нормальный составил (во всяком случае google не ругается)

Может я все таки в robots.txt что то напортачил....кто соображает подскажите чего делать то?

Вот сам файл:

User-agent: *

Disallow: /wp-login.php

Disallow: /wp-register.php

Disallow: /webstat/

Disallow: /feed/

Disallow: /trackback

Disallow: */trackback

Disallow: */feed

Disallow: */comments

Disallow: /*?*

Disallow: /*?

Disallow: /category/*/*

Disallow: /wp-content/

Disallow: /wp-admin/

Disallow: /wp-includes/

Disallow: /comments

User-agent: Yandex

Disallow: /wp-login.php

Disallow: /wp-register.php

Disallow: /webstat/

Disallow: /feed/

Disallow: /trackback

Disallow: */trackback

Disallow: */feed

Disallow: */comments

Disallow: /*?*

Disallow: /*?

Disallow: /category/*/*

Disallow: /wp-content/

Disallow: /wp-admin/

Disallow: /wp-includes/

Disallow: /comments

Host: extruziv.ru

Sitemap: http://extruziv.ru/sitemap.xml

Заранее спасибо всем даже за попытку помочь...

WEB
На сайте с 25.01.2009
Offline
514
WEB
#1
qurtvex:
Disallow: /*?*
Disallow: /*?

Эти директивы запрещают индексировать и страницы, и записи вида http://site.ru/?p=123, http://site.ru/?page_id=123. Именно такие урлы создаёт Wordpress.

kimberlit
На сайте с 13.03.2007
Offline
370
#2
<!--WEB-->:
А именно такие урлы создаёт Wordpress.

Веб, у него чпу на сайте как бы. Да и роботс другой на сайте.

Q
На сайте с 09.02.2013
Offline
1
#3
kimberlit:
Веб, у него чпу на сайте как бы. Да и роботс другой на сайте.

как другой? я вроде копировал именно оттуда?

WEB
На сайте с 25.01.2009
Offline
514
WEB
#4
kimberlit:
Веб, у него чпу на сайте как бы

Ну тогда не знаю. Остальное, вроде, сомнений не вызывает.

kimberlit
На сайте с 13.03.2007
Offline
370
#5
qurtvex:
как другой? я вроде копировал именно оттуда?

У меня такой открывается: http://extruziv.ru/robots.txt

User-agent: *
Allow: /wp-content/uploads/
Disallow: /wp-login.php
Disallow: /wp-register.php
Disallow: /xmlrpc.php
Disallow: /template.html
Disallow: /cgi-bin
Disallow: /wp-admin
Disallow: /wp-includes
Disallow: /wp-content/plugins
Disallow: /wp-content/cache
Disallow: /wp-content/themes
Disallow: /wp-trackback
Disallow: /wp-feed
Disallow: /wp-comments
Disallow: */trackback
Disallow: */feed
Disallow: */comments
Disallow: /tag
Disallow: /category
Disallow: /archive
Disallow: */trackback/
Disallow: */feed/
Disallow: */comments/
Disallow: /?feed=
Disallow: /?s=

User-agent: Yandex
Allow: /wp-content/uploads/
Disallow: /wp-login.php
Disallow: /wp-register.php
Disallow: /xmlrpc.php
Disallow: /template.html
Disallow: /cgi-bin
Disallow: /wp-admin
Disallow: /wp-includes
Disallow: /wp-content/plugins
Disallow: /wp-content/cache
Disallow: /wp-content/themes
Disallow: /wp-trackback
Disallow: /wp-feed
Disallow: /wp-comments
Disallow: */trackback
Disallow: */feed
Disallow: */comments
Disallow: /tag
Disallow: /category
Disallow: /archive
Disallow: */trackback/
Disallow: */feed/
Disallow: */comments/
Disallow: /?feed=
Disallow: /?s=
Host: extruziv.ru

Sitemap: http://extruziv.ru/sitemap.xml
Sitemap: http://extruziv.ru/sitemap.xml.gz
WEB
На сайте с 25.01.2009
Offline
514
WEB
#6

А robots, кстати, другой, да:


User-agent: *
Allow: /wp-content/uploads/
Disallow: /wp-login.php
Disallow: /wp-register.php
Disallow: /xmlrpc.php
Disallow: /template.html
Disallow: /cgi-bin
Disallow: /wp-admin
Disallow: /wp-includes
Disallow: /wp-content/plugins
Disallow: /wp-content/cache
Disallow: /wp-content/themes
Disallow: /wp-trackback
Disallow: /wp-feed
Disallow: /wp-comments
Disallow: */trackback
Disallow: */feed
Disallow: */comments
Disallow: /tag
Disallow: /category
Disallow: /archive
Disallow: */trackback/
Disallow: */feed/
Disallow: */comments/
Disallow: /?feed=
Disallow: /?s=

User-agent: Yandex
Allow: /wp-content/uploads/
Disallow: /wp-login.php
Disallow: /wp-register.php
Disallow: /xmlrpc.php
Disallow: /template.html
Disallow: /cgi-bin
Disallow: /wp-admin
Disallow: /wp-includes
Disallow: /wp-content/plugins
Disallow: /wp-content/cache
Disallow: /wp-content/themes
Disallow: /wp-trackback
Disallow: /wp-feed
Disallow: /wp-comments
Disallow: */trackback
Disallow: */feed
Disallow: */comments
Disallow: /tag
Disallow: /category
Disallow: /archive
Disallow: */trackback/
Disallow: */feed/
Disallow: */comments/
Disallow: /?feed=
Disallow: /?s=
Host: extruziv.ru

Sitemap: http://extruziv.ru/sitemap.xml
Sitemap: http://extruziv.ru/sitemap.xml.gz
R
На сайте с 09.02.2011
Offline
99
#7
Зашел в вебмастер яндекса и увидел что он типа загрузил 60 страниц для индексирования и проиндексировал всего одну, потому что остальные вроде как запрещает robots.txt

В панели вебмастера yandex есть возможность проверки на индексацию каждой страницы в которой Вы сомневаетесь.

Там же можно поиграться с самим robots.txt если что не так.

Но скорее всего не в нем дело, судя по файлу.

Онлайн синонимайзер (http://synonyma.ru/)
Q
На сайте с 09.02.2013
Offline
1
#8

Вот скрин прям вот "сейчашний" свежий....откуда у вас такое? не знаю... Как видите и адрес в строке браузера мой...ОТКУДА у Вас такое?...Вот незадача...

png 120969.png
Q
На сайте с 09.02.2013
Offline
1
#9

Блин..у Вас один robots....у меня другой...чего делать то теперь.....мистика какая то))))

WEB
На сайте с 25.01.2009
Offline
514
WEB
#10

Яндекс-то какой видит? В панели вебмастера можно посмотреть. А то там может какой-то третий вообще? 🤪

---------- Добавлено 09.03.2013 в 17:37 ----------

qurtvex:
Блин..у Вас один robots....у меня другой

Может закешировался в браузере?

12 3

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий