Kost, автор задачи не я. Я то, как раз, дал человеку практический совет, исходя из предоставленной информации.
Вот постановка задачи
У меня с советских времен аллергия на людей, которые мне объясняют что я неверной дорогой хожу или неправильную музыку слушаю или что-то там не то думаю.
Поэтому я не смог удержаться и не попросить автора предъявить "правильный" robots.txt, который лишен подобных "недостатков".
Наверное, слова "тоже не верно", "исходите из предположения" и "еще пицот баксов уходят мне" в поцитированном сообщении были лишними.
P.S. А вот с Винни-Пухом я согласен. Неправильные пчелы есть!
Сам видел.
K. Ermakov, в браузере выбираем Файл > Сохранить как > Веб страница, полностью и получаем набор файлов. На сервере, конечно, некоторые файлы не хранятся, а создаются динамически.
Ну а про странички на фреймах я уже говорил.
Спасибо. Ну, robots.txt я уж как-нибудь сам напишу.
Я просто хотел проиллюстрировать то, что в общем виде решение не дано. Вы предлагаете запретить индексацию всех файлов и директорий на сервере. Но страница может состоять не из одного файла, поэтому Ваше решение нельзя назвать универсальным.
В реальности мало кто создает сайты соответсвующие стандартам, и роботы вынуждены следовать за людьми, чтобы проиндексировать их творчество.
Kost, а если у меня главная страница на фреймах сделана, и еще я хочу чтобы картинки с главной страницы тоже в индекс попали?
А откуда Вам стало известно о моих предположениях? Если задача состоит в написании универсального robots.txt, запрещающего Яндексу индексацию всех страниц сайта кроме главной, то, может быть Вы огласите правильное решение для всего множества всевозможных URL?
User-Agent: Yandex
Disallow: /index.php
cheboor, Вы сами прекрасно сформулировали то, что хотят пользователи.
Вы же понимаете, что есть разница между тем, когда ссылка удалена, или изменен код ссылки. Вообще, было бы не плохо, чтобы программа еще показывала изменения и позволяла принять их одним кликом мышки, если они не принципиальны.
Одно не понятно - при чем тут <noindex>?
Наверное правильнее было бы написать "замечено на одном сайте", а для проверки одного сайта явно не достаточно.
А вот пример использования атрибута alt от гуру вебдизайна:
http://lenta.ru/r/illustrated.html