Что не так в robots.txt?

[Удален]
375

Во всех поисковиках (в т.ч. гугле) сайт упал на дно, при попытке отыскать его в выдаче у главной страницы написано "Описание веб-страницы недоступно из-за ограничений в файле robots.txt. Подробнее..." То же написано в Google Webmasters.

Вот содержимое robots.txt (нашел где-то в сети как образец, который ничего не делает и не должен):

Host: website

Sitemap: http://website/sitemap.xml

User-Agent: *

Disallow: /

Что тут не так?

Gzas
На сайте с 05.01.2014
Offline
135
#1

Disallow: / # доступ закрыт для всех страниц сайта

http://help.yandex.ru/webmaster/controlling-robot/robots-txt.xml

artasquilla
На сайте с 06.05.2015
Offline
30
#2
StanKhat:
Disallow: /

Запрещает индексацию всего сайта. Где вы такое нашли?

Сайт о заработке (http://nakerosine.ru)
skarui
На сайте с 24.07.2014
Offline
48
#3

Жесть. А зачем запрещать индексацию всего сайта?

Пропишите в роботс.тхт такую конструкцию:

User-agent : *

Disallow: /?

Disallow: /*?

Host: ваш_сайт

Sitemap: http://ваш_сайт/sitemap.xml

И подождите 1-2 апа. Обратите внимание на www если хотите чтобы сайт был с этой приставкой.

Программирование, продвижение, аналитика. Работаю в агентстве Skarui (http://skarui.ru). Увлекаюсь сайтами, дорвеями и трафикогенерацией! Иногда пишу в свой блог (http://skarui.ru/blog/karuev)
[Удален]
#4
skarui:
Жесть. А зачем запрещать индексацию всего сайта?
Пропишите в роботс.тхт такую конструкцию:
User-agent : *
Disallow: /?
Disallow: /*?
Host: ваш_сайт
Sitemap: http://ваш_сайт/sitemap.xml

И подождите 1-2 апа. Обратите внимание на www если хотите чтобы сайт был с этой приставкой.

Вот я дурак-то!!! 2 года сайт упал до минимума посещений а я понять не мог что делаю не так!!! 😡😡😡

Сколько по времени он должен восстановиться, если раньше (до того как добавил robots.txt) было 500 уников в сутки, а стало 10-20?

- Romanus -
На сайте с 20.01.2015
Offline
91
#5

skarui, Вы пишите чушь.

Если ТС вообще не понимает, что происходит с сайтом - велика вероятность, что он не сильно знаком с тех. моментами. И опять же есть вероятность, что у него нет ЧПУ и урлы идут вида /?p=123 и т.д.

Сделав по вашему совету он не исправит ситуацию вообще.

StanKhat, Напишите в личку сайт, я накидаю Robots вам.

Делаю SEO. Веду блог - Romanus.ru ( https://romanus.ru )
[Удален]
#6
skarui:
Жесть. А зачем запрещать индексацию всего сайта?
Disallow: /?
Disallow: /*?

Что означает эта конструкция? (вопросительный знак после слэша)

В инете найти не смог.

- Romanus -
На сайте с 20.01.2015
Offline
91
#7
StanKhat:
Что означает эта конструкция? (вопросительный знак после слэша)
В инете найти не смог.

/? - закроет конструкции вида Site.ru/?xxx

/*? - закроет конструкции, где есть ? в урле

D.iK.iJ
На сайте с 26.05.2013
Offline
228
#8

Я бы поменял на

User-Agent: *
Allow: /
Host: website

Sitemap: http://website/sitemap.xml

Вместо Allow: / можно прописать в Disallow - что нужно закрыть от индексации, например.

Адаптивный дизайн в 2 строчки ( https://dikij.com/wm/adaptaciya-saytov.php ). + Принимаю заказы любой сложности ( https://searchengines.guru/ru/forum/926323 ). 💎 Еще я делаю классные кулоны с опалами ( https://mosaicopal.ru/ ).
[Удален]
#9
DiKiJ:
Я бы поменял на



Вместо Allow: / можно прописать в Disallow - что нужно закрыть от индексации, например.

Спасибо. Именно так и сделал. Интересно когда можно ждать эффекта? Неделя, месяц?

- Romanus -
На сайте с 20.01.2015
Offline
91
#10

StanKhat, от пары недель

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий