- Поисковые системы
- Практика оптимизации
- Трафик для сайтов
- Монетизация сайтов
- Сайтостроение
- Социальный Маркетинг
- Общение профессионалов
- Биржа и продажа
- Финансовые объявления
- Работа на постоянной основе
- Сайты - покупка, продажа
- Соцсети: страницы, группы, приложения
- Сайты без доменов
- Трафик, тизерная и баннерная реклама
- Продажа, оценка, регистрация доменов
- Ссылки - обмен, покупка, продажа
- Программы и скрипты
- Размещение статей
- Инфопродукты
- Прочие цифровые товары
- Работа и услуги для вебмастера
- Оптимизация, продвижение и аудит
- Ведение рекламных кампаний
- Услуги в области SMM
- Программирование
- Администрирование серверов и сайтов
- Прокси, ВПН, анонимайзеры, IP
- Платное обучение, вебинары
- Регистрация в каталогах
- Копирайтинг, переводы
- Дизайн
- Usability: консультации и аудит
- Изготовление сайтов
- Наполнение сайтов
- Прочие услуги
- Не про работу
Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий
Здравствуйте,
Есть ряд огромных проектов с очень запутанной структурой. Писать robots.txt в блокноте будет просто не удобно.
Задумался, а вдруг есть какая-то программа или сервис, в которой можно его составить, а потом тупо подбрасывать урлы на проверку и смотреть как какая директива их отработает или нет.
Ну или может что-то еще удобное...
Ну или может что-то еще удобное...
В роботс пишутся урлы которые могут быть доступны паукам, но не нужны в индексе.
Какая разница куда их писать и что для этого может быть удобнее блокнота?
может я свою мысль не так донес..
например есть вот такая чекалка https://www.google.com/webmasters/tools/robots-testing-tool
т.е. можно тут же загрузить роботс с сайта, дописать директивы, тут же вставить реальный урл на проверку и сразу увидеть как он будет обрабатываться или нет.
в принципе почти подходит. но вдруг есть что-то еще более удобное.