Удалил сайт из Web Archive

О
На сайте с 04.08.2009
Offline
145
5461

Столкнулся со следующим вопросом. В корень сайта закачал robots.txt с запретом для Web Archive. Теперь Web Archive ругается: "Page cannot be crawled or displayed due to robots.txt.", что robots.txt не позволяет ему сканировать сайт, а также пропали все старые снимки. Удалил robots.txt, ничего не восстановилось. В поддержку отписал просьбу, вернуть снимки назад. Кто сталкивался с таким?

Влазить напрямую в базу — это невозможно © Игорь Белов, mchost.ru
Mik Foxi
На сайте с 02.03.2011
Online
1177
#1

Зачем вы запрещали и зачем вам туда опять попадать? Верните запрет назад и живите счастливо. Вебархив - это повод тырить ваш контент школьниками.

Антибот, антиспам, веб фаервол, защита от накрутки поведенческих: https://antibot.cloud/ (Зеркало: https://антибот.рф/ ) Форум на замену серчу: https://foxi.biz/
Subudayj
На сайте с 24.06.2008
Offline
67
#2

На главной странице https://archive.org/web/ в форме "Save Page Now" введите URL своего обновленного файла robots.txt в котором не будет запрета Web Archive и нажмите кнопку "Save Page" - после этого практически сразу запрет будет снят.

Quo vadis?
О
На сайте с 04.08.2009
Offline
145
#3
Subudayj:
На главной странице https://archive.org/web/ в форме "Save Page Now" введите URL своего обновленного файла robots.txt в котором не будет запрета Web Archive и нажмите кнопку "Save Page" - после этого практически сразу запрет будет снят.

Спасибо. Поступил так: ночью прописал в robots.txt

User-agent: ia_archiver
Allow: /

Уже утром сайт вернулся в веб архив.

---------- Добавлено 22.05.2014 в 18:31 ----------

foxi:
Зачем вы запрещали и зачем вам туда опять попадать? Верните запрет назад и живите счастливо. Вебархив - это повод тырить ваш контент школьниками.

Слышал, что с веб архивом "вес" домена больше, и купят за бОльшую стоимость.

87793
На сайте с 12.09.2009
Offline
661
#4
Окей:
Уже утром сайт вернулся в веб архив.

То бишь - все старые бэкапы стали вновь доступны? 😕

Наше дело правое - не мешать левому!
О
На сайте с 04.08.2009
Offline
145
#5
87793:
То бишь - все старые бэкапы стали вновь доступны? 😕

Да, все старые отсканированные копии сайта на месте.

87793
На сайте с 12.09.2009
Offline
661
#6

Мне удивительно, что они пропадали.

Mik Foxi
На сайте с 02.03.2011
Online
1177
#7
Окей:
Слышал, что с веб архивом "вес" домена больше, и купят за бОльшую стоимость.

не слышал такой ерунды. зато не только слышал, но и часто сталкивался. когда сайт уходит в оффлайн надолго - его тут же кто-нибудь предприимчивый выкачивает из вебархива и делает копию сайта, типа "если сайт умер, че добру пропадать".

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий